AindaoneO que antes era inimaginável agora é realidade. A startup PrismML apresentou um novo modelo de linguagem, o Bonsai 27B, que, segundo seus criadores, é o primeiro modelo desse porte a rodar diretamente em um iPhone sem a necessidade de um servidor dedicado. cloudSe as alegações da empresa forem confirmadas, isso poderá representar um passo significativo rumo a uma inteligência artificial mais poderosa diretamente em dispositivos móveis.
Você pode estar interessado
O sucesso se deve à compressão extrema do modelo. Enquanto um modelo convencional com 27 bilhões de parâmetros ocupa dezenas de gigabytes de memória, o PrismML conseguiu reduzi-lo para aproximadamente 4 GB graças à sua tecnologia própria de 1 bit. É exatamente por isso que ele se encaixa nos limites de memória dos iPhones modernos e opera completamente localmente, sem a necessidade de enviar dados para servidores remotos. Isso significa não apenas uma velocidade de resposta maior, mas também uma melhor proteção da privacidade.
Galeria de fotos
Segundo a PrismML, o modelo suporta raciocínio avançado, ferramentas, entrada multimodal e funções de agente. A empresa o oferece em duas versões. variantách – uma versão de 1 bit otimizada para telefones e uma versão ternária projetada principalmente para computadores mais potentes. Em dispositivos AppO lu utiliza o framework MLX, o que permite sua execução nativa em iPhone, iPad e Mac. Toda essa situação se torna ainda mais interessante porque o PrismML também ganhou destaque recentemente devido a Applu. O CEO da empresa, Babak Hassibi, disse à CNBC que Apple Atualmente, ele está avaliando a tecnologia da startup e testando sua velocidade, eficiência energética e desempenho geral. No entanto, ressaltou que as negociações ainda estão em fase inicial e não há certeza de que resultarão em alguma colaboração. Apple Não se pronunciou oficialmente sobre o assunto.
Você pode estar interessado
No entanto, se a tecnologia PrismML realmente chegar aos futuros iPhones, poderá expandir significativamente as possibilidades. Apple IntelligenceModelos mais potentes poderiam funcionar diretamente no telefone sem usar cloudservidores, o que traria não apenas maior desempenho, mas também menor latência e até mesmo melhor proteção da privacidade do usuário. Se isso realmente acontecerá, só o tempo dirá. Pessoalmente, acho que esse é exatamente o caminho que pode ser trilhado para Apple extremamente interessante, visto que seria 100% Privacidade do usuário garantida, assegurando que seus dados estarão sempre em seu telefone.
