A Apple está demonstrando sinais claros de que pretende alcançar seus concorrentes do Vale do Silício no campo da inteligência artificial gerativa com a mais recente pesquisa sobre execução de modelos de linguagem de grande escala em smartphones. A pesquisa, intitulada 'LLM in a Flash', propõe uma solução para gargalos computacionais atuais e sinaliza um caminho para a efetiva inferência desses modelos em dispositivos com memória limitada. Esse avanço foi destacado pelo site Hugging Face e representa o segundo artigo da Apple sobre IA gerativa neste mês.

A pesquisa sugere que a Apple focará em inteligência artificial que pode ser executada diretamente em iPhones, ao contrário da abordagem de empresas como Microsoft e Google, que priorizam serviços de IA gerados via internet de suas plataformas de computação em nuvem. O movimento ocorre em um momento em que o mercado de smartphones vivencia sua pior queda em uma década, com uma redução estimada de 5% nos envios, de acordo com a Counterpoint Research.

Apesar de ter lançado um dos primeiros assistentes virtuais, Siri, em 2011, a Apple foi vista pela comunidade de IA como atrasada em relação a seus rivais tecnológicos, mesmo após contratar o principal executivo de IA do Google, John Giannandrea, em 2018. Enquanto isso, fabricantes como a Samsung preparam-se para lançar novos 'smartphones de IA' no próximo ano, com mais de 100 milhões de dispositivos focados em IA previstos para serem enviados em 2024, e 40% dos novos aparelhos oferecendo tais capacidades até 2027.

Cristiano Amon, CEO da maior fabricante de chips para dispositivos móveis do mundo, a Qualcomm, prevê que a inclusão da IA em smartphones criará novas experiências para os consumidores e poderá reverter a queda nas vendas de celulares. Ele mencionou que dispositivos lançados no início de 2024 incluirão uma série de casos de uso de IA gerativa. O Google também revelou uma versão do seu novo LLM Gemini que funcionará nativamente em smartphones Pixel.

A execução de modelos de IA de grande porte em dispositivos pessoais apresenta desafios técnicos consideráveis, mas resolver essa questão pode significar assistentes de IA mais rápidos e que operem até mesmo offline, além de oferecer benefícios de privacidade, já que os dados não precisariam ser enviados para a nuvem. A Apple testou sua abordagem em modelos como o Falcon 7B, uma versão menor de um LLM de código aberto desenvolvido pelo Technology Innovation Institute em Abu Dhabi.

Otimizar LLMs para funcionar em dispositivos alimentados por bateria tem sido um foco crescente para pesquisadores de IA. Embora artigos acadêmicos não sejam um indicador direto de novos recursos em produtos, eles oferecem um vislumbre dos laboratórios secretos da Apple e dos avanços técnicos da empresa. Os pesquisadores da Apple acreditam que à medida que os LLMs continuam a crescer em tamanho e complexidade, abordagens como esta serão essenciais para aproveitar seu potencial total em uma ampla gama de dispositivos e aplicações.