Despliegue en local del glm52 GLM 52 es un modelo MOE de 753B con 40B activos por token, el coste de computo por token es similar al de un modelo de 40B, es rapido por los 40B pero el huecazo que necesitas en memoria es bastante grande, basicamente corre como un 40B y pesa como un 753B. Demas te...

Source: [Dev.to](https://dev.to/joseluisp/despligue-local-glm-52-15nd)

Sponsored