Bonsai: IA local de 27 bilhões em menos de 4GB

Peguei o Bonsai 27B, o modelo que a PrismML comprimiu catorze vezes até caber em três gigas e nove, e rodei a bateria inteira do canal contra o próprio modelo que deu origem a ele. A compressão cobra num lugar bem mais estreito do que eu esperava, e na única tarefa real com prazo foi o mais comprimido que entregou primeiro. Link pro Bonsai no Hugging Face: https://huggingface.co/prism-ml/Bonsa... 🌎 Site: https://viktorkav.com.br 🏷️ Recomendações: https://viktorkav.com.br/promos 🖥️ Notícias: https://viktorkav.com.br/monitor 🔗 Afiliados: viktorkav.com.br/amazon viktorkav.com.br/hostinger (cupom KAV) viktorkav.com.br/nuuvem ▶ Novos vídeos sempre que estiverem bons pra ir ao ar! ▶ Lives Segundas, Quartas e Sextas-Feiras das 10:00 às 12:00 🎮Twitch   / viktorkav   📸Instagram:   / viktorkav   💬Discord: https://discord.viktorkav.com.br #viktorkav #vkav #kav