Lembram-se de como os geradores de arte AI se tornaram amplamente disponíveis em 2022 e, de repente, a internet estava cheia de imagens estranhas que pareciam muito legais, mas que ao inspecionar de perto não pareciam tão corretas? Preparem-se para isso acontecer novamente — mas desta vez com vídeo.

Na semana passada, a OpenAI lançou o Sora, um modelo de IA generativo que produz vídeos baseados em um simples prompt. Ainda não está disponível ao público, mas o CEO Sam Altman exibiu suas capacidades atendendo a pedidos no X, anteriormente conhecido como Twitter. Os usuários responderam com prompts curtos: 'um macaco jogando xadrez em um parque', ou 'uma corrida de bicicleta no oceano com diferentes animais como atletas'. O resultado é desconcertante, hipnotizante, estranho, belo — e está provocando o habitual ciclo de comentários.

Algumas pessoas estão fazendo afirmações robustas sobre os efeitos negativos do Sora, prevendo uma 'onda de desinformação' — mas embora eu (e especialistas) acreditem que sistemas poderosos de IA no futuro representem riscos realmente sérios, afirmações de que um modelo específico trará a onda de desinformação sobre nós não se concretizaram até agora.

Outros apontam para as muitas falhas do Sora como representando limitações fundamentais da tecnologia — o que foi um erro quando as pessoas fizeram isso com modelos geradores de imagem e que, suspeito, será um erro novamente. Como meu colega A.W. Ohlheiser apontou, 'assim como DALL-E e ChatGPT melhoraram com o tempo, Sora também pode melhorar'.

As previsões, tanto otimistas quanto pessimistas, ainda podem se concretizar — mas a conversa em torno do Sora e da IA gerativa seria mais produtiva se as pessoas de todos os lados levassem mais em conta todas as maneiras pelas quais fomos provados errados nesses últimos anos.

O que DALL-E 2 e Midjourney podem nos ensinar sobre Sora

Dois anos atrás, a OpenAI anunciou o DALL-E 2, um modelo que podia produzir imagens estáticas a partir de um prompt de texto. As imagens fantásticas de alta resolução que produziu rapidamente se espalharam pelas redes sociais, assim como as opiniões sobre o que pensar disso: Arte real? Arte falsa? Uma ameaça para artistas? Uma ferramenta para artistas? Uma máquina de desinformação? Dois anos depois, vale a pena fazer uma retrospectiva se quisermos que nossas opiniões sobre o Sora envelheçam melhor.

O lançamento do DALL-E 2 foi apenas alguns meses antes do Midjourney e do Stable Diffusion, dois concorrentes populares. Cada um tinha seus pontos fortes e fracos. DALL-E 2 fazia imagens mais fotorealistas e aderia um pouco melhor aos prompts; Midjourney era 'mais artístico'. Coletivamente, tornaram a arte AI disponível ao clique de um botão para milhões.

Grande parte do impacto social da IA generativa não veio diretamente do DALL-E 2, mas da onda de modelos de imagens que ele liderou. Da mesma forma, podemos esperar que a questão importante sobre o Sora não seja apenas o que o Sora pode fazer, mas o que seus imitadores e concorrentes serão capazes de fazer.

Muitas pessoas acreditavam que DALL-E e seus concorrentes sinalizavam uma enxurrada de propaganda deepfake e golpes que ameaçariam nossa democracia. Embora possamos ver um efeito assim algum dia, esses apelos agora parecem ter sido prematuros. O efeito dos deepfakes em nossa democracia 'sempre parece estar ao virar da esquina', escreveu o analista Peter Carlyon em dezembro, observando que a maioria da propaganda continua sendo de um tipo mais chato — por exemplo, tirando observações de contexto, ou imagens de um conflito compartilhadas e rotuladas erroneamente como sendo de outro.

Presumivelmente, em algum momento isso mudará, mas deve haver alguma humildade em afirmações de que o Sora será essa mudança. Não é necessário deepfakes para mentir para as pessoas, e eles continuam sendo uma maneira cara de fazê-lo. (As gerações de IA são relativamente baratas, mas se você está procurando algo específico e convincente, isso é muito mais caro. Um tsunami de deepfakes implica uma escala que os spammers principalmente não podem pagar no momento.)

Mas o lugar onde parece mais crucial para mim lembrar os últimos dois anos da história da IA é quando leio críticas às imagens do Sora por serem desajeitadas, rígidas, desumanas ou obviamente falhas. É verdade, elas são. Sora 'não modela com precisão a física de muitas interações básicas', reconhece o comunicado de pesquisa da OpenAI, acrescentando que tem dificuldade com causa e efeito, confundindo esquerda e direita, e seguindo uma trajetória.

Críticas quase idênticas foram, é claro, feitas ao DALL-E 2 e ao Midjourney — pelo menos inicialmente. A cobertura inicial do DALL-E 2 destacou suas incompetências, desde criar monstros horríveis sempre que você pedia vários personagens em uma cena até dar garras às pessoas em vez de mãos. Especialistas em IA argumentaram que a incapacidade da IA de lidar com 'composicionalidade' — ou instruções sobre como compor os elementos de uma cena — refletia uma deficiência fundamental da tecnologia.

Na prática, porém, os modelos melhoraram na realização de prompts altamente específicos e os usuários melhoraram na criação de prompts, e como resultado, hoje é possível criar imagens com cenas complexas e detalhadas. Quase todas as deficiências divertidas foram corrigidas no DALL-E 3, lançado no ano passado, e nas últimas atualizações do Midjourney. Os geradores de imagens de hoje podem fazer mãos e cenas de multidão bem.

No tempo entre o DALL-E 2 e o Sora, a geração de imagens de IA passou de um truque de festa para uma indústria massiva. Muitas das coisas que o DALL-E 2 não podia fazer, o DALL-E 3 podia. E se o DALL-E 3 não podia, muitas vezes um concorrente podia. Essa é uma perspectiva crucial a ter em mente quando você lê prognósticos sobre o Sora — você provavelmente está olhando para os primeiros passos em uma nova capacidade importante, que pode ser usada para fins bons ou maliciosos, e embora seja possível exagerar, também é muito fácil subestimá-la.

Em vez de se comprometer excessivamente com qualquer perspectiva particular sobre o que o Sora e seus sucessores farão ou não serão capazes de fazer, vale a pena admitir alguma incerteza sobre para onde isso está indo. É muito mais fácil dizer: 'Esta tecnologia continuará melhorando aos trancos e barrancos' do que adivinhar os detalhes de como isso acontecerá.

Uma versão desta história apareceu originalmente no boletim Future Perfect. Inscreva-se aqui!