A Apple anunciou hoje o lançamento de vários modelos de linguagem de grande porte de código aberto, conhecidos como OpenELM (Open-source Efficient Language Models), que são projetados para funcionar em dispositivos, e não em servidores na nuvem. Esses modelos estão disponíveis no Hugging Face Hub, um espaço comunitário dedicado ao compartilhamento de códigos de IA. . Em um documento técnico divulgado pela empresa, são apresentados oito modelos OpenELM no total, sendo quatro pré-treinados com a biblioteca CoreNet e quatro modelos ajustados por instrução. A Apple adotou uma estratégia de escala por camada que visa aumentar a precisão e a eficiência dos modelos. . Além de fornecer o código, os logs de treinamento e várias versões dos modelos, ao invés de apenas o modelo treinado final, os pesquisadores por trás do projeto esperam que isso conduza a um progresso mais rápido e a resultados 'mais confiáveis' no campo da inteligência artificial de linguagem natural. . OpenELM, modelo de linguagem aberto de última geração, utiliza uma estratégia de escalonamento por camada para alocar parâmetros de forma eficiente, aumentando a precisão. Por exemplo, com um orçamento de parâmetros de cerca de um bilhão, o OpenELM mostrou uma melhoria de precisão de 2,36% em relação ao OLMo, necessitando de metade dos tokens de pré-treinamento. A Apple destaca que a iniciativa de liberar os modelos OpenELM visa 'empoderar e enriquecer a comunidade de pesquisa aberta' com modelos de linguagem de ponta. O compartilhamento de modelos de código aberto permite que pesquisadores investiguem riscos, viés de dados e de modelos. Desenvolvedores e empresas podem usar os modelos como estão ou fazer modificações. . A estratégia de compartilhamento aberto da Apple também se tornou uma ferramenta importante para recrutar engenheiros, cientistas e especialistas, pois oferece oportunidades para a publicação de trabalhos de pesquisa que normalmente não seriam possíveis devido às políticas sigilosas da empresa. . Embora a Apple ainda não tenha implementado essas capacidades de IA em seus dispositivos, espera-se que o iOS 18 inclua uma série de novos recursos de IA, e há rumores de que a empresa planeja executar seus grandes modelos de linguagem diretamente nos dispositivos por questões de privacidade.
Confira os últimos vídeos publicados no canal