Publicado enAnálisis de Noticias Gadgets y Hardware open source
Cuánto le puedes achicar a un modelo de 27B antes de que se eche a perder
La pregunta de siempre cuando corres modelos locales: ¿cuánto puedo comprimir el modelo antes de que se vuelva tonto? Alguien en Quesma gastó como 3.000 dólares de GPU rentada para…
