vkhosla apresenta o modelo 1-bit Bonsai de 8B, com uso de memória de apenas 1,15GB

robot
Geração do resumo em andamento

Notícia ME News: Mensagem, 1 de abril (UTC+8). Recentemente, o autor vkhosla apresentou nas redes sociais um modelo de pesos de 1-bit denominado 1-bit Bonsai 8B. Segundo a sua descrição, o modelo ocupa apenas 1,15 GB de memória e, alegadamente, a sua densidade de inteligência (intelligence density) é mais de 10 vezes superior à do seu correspondente modelo em precisão total. A opinião expressa no artigo indica que, em hardware periférico, o volume do modelo foi reduzido 14 vezes, a velocidade aumentou 8 vezes e a eficiência energética melhorou 5 vezes, mantendo ainda competitividade face a outros modelos. A notícia também refere que o modelo tem melhor capacidade de compressão, maior velocidade, menor volume e maior eficiência energética do que o modelo anunciado pela Google no dia anterior. O texto original não fornece comparações de desempenho com benchmarks específicos do modelo, nem o publicador, detalhes da implementação técnica ou resultados de avaliação completos. (Fonte: InFoQ)

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Marcar