Publicado enAn谩lisis de Noticias Gadgets y Hardware open source
Cu谩nto le puedes achicar a un modelo de 27B antes de que se eche a perder
La pregunta de siempre cuando corres modelos locales: 驴cu谩nto puedo comprimir el modelo antes de que se vuelva tonto? Alguien en Quesma gast贸 como 3.000 d贸lares de GPU rentada para…
