Robert Triggs / Autoridade do Android
TL;DR
- A Qualcomm anunciou que o modelo Llama 2 AI da Meta está chegando aos principais telefones Snapdragon em 2024.
- O fabricante de chips diz que você não precisará de conexão com a Internet para executar o Llama 2 nesses telefones.
- A Meta também confirmou que está abrindo o código do modelo de IA.
A fabricante de chips anunciou que trará recursos de IA no dispositivo para os principais telefones e PCs de 2024, cortesia do Llama 2 large language model (LLM) da Meta. A Qualcomm observa que esse suporte permitirá uma variedade de casos de uso sem a necessidade de uma conexão com a Internet. Esses casos de uso discutidos incluem assistentes virtuais inteligentes, aplicativos de produtividade, ferramentas de criação de conteúdo, entretenimento e muito mais.
“A Qualcomm Technologies está programada para disponibilizar a implementação de IA baseada em Llama 2 em dispositivos com Snapdragon a partir de 2024”, acrescentou a empresa em seu comunicado à imprensa.
Não há nenhuma palavra se a própria Meta lançará qualquer aplicativo baseado em Llama 2 com inferência local em telefones Snapdragon no próximo ano. Mas os desenvolvedores de aplicativos Android terceirizados certamente terão as ferramentas para liberar seus próprios esforços.
Mais notícias de Llama 2 para compartilhar
Este não foi o único anúncio relacionado ao Llama 2, pois a Meta revelou que também abriu o código do LLM. A Meta afirma que decidiu abrir o código com o Llama 2 para dar às empresas, startups, empreendedores e pesquisadores acesso a mais ferramentas. Essas ferramentas abririam “oportunidades para eles experimentarem, inovarem de maneiras empolgantes e, por fim, se beneficiarem econômica e socialmente”.
De acordo com seu comunicado à imprensa, parece que a Meta acredita que abrir o acesso à sua IA a torna mais segura. Ele observa que desenvolvedores e pesquisadores poderão testar o estresse do LLM, o que ajudará na identificação e resolução de problemas mais rapidamente.
A empresa explica ainda que o Llama 2 foi “red-teamed” – testado e ajustado para segurança por ter equipes internas e externas “gerando prompts adversários”. A Meta acrescenta que “continuará investindo em segurança por meio de ajustes finos e benchmarking” do modelo.
Por fim, a Microsoft e a Meta também anunciaram uma parceria expandida que fará com que a Microsoft se torne um parceiro preferencial para o Llama 2. A empresa de Redmond acrescentou que o novo LLM terá suporte no Azure e no Windows. O Llama 2 está disponível a partir de hoje no catálogo de modelos do Azure AI e é otimizado para funcionar no Windows localmente. No entanto, também estará disponível através da Amazon Web Services (AWS), Hugging Face e outros provedores.
