Recentemente, Dario Amodei, CEO da Anthropic, abordou a crescente controvérsia em torno dos modelos de pesos abertos, especialmente aqueles provenientes da China. Ele mencionou que algumas autoridades dos Estados Unidos estão considerando proibir o uso desses modelos por empresas americanas, o que gerou uma carta de apoio a esses modelos, assinada por várias empresas de tecnologia. "Anthropic nunca defendeu uma proibição sobre modelos de pesos abertos", afirmou Amodei, deixando claro que essa não é a solução para seus reais preocupações de segurança nacional.

Amodei destacou que modelos de pesos abertos sem capacidades perigosas são um bem público, pois não têm custo além do necessário para operá-los e oferecem valor a negócios, desenvolvedores e pesquisadores. Em vez de proibições protecionistas, ele expressou preocupações sobre governos autoritários, como o Partido Comunista Chinês (PCC), que poderiam desenvolver modelos de IA superiores aos dos EUA para obter vantagem militar e reprimir seu próprio povo.

Em seu artigo "A Adolescência da Tecnologia", Amodei delineou dois cenários de pesadelo: o primeiro é a possibilidade de governos autoritários criarem modelos de IA mais poderosos e usá-los de forma opressora. O segundo envolve o risco de modelos de IA serem mal utilizados para ciberataques ou ataques biológicos. Ele enfatizou que proibir modelos de pesos abertos não resolve esses problemas, já que os maus atores não são, em geral, empresas legítimas.

Para lidar com essas preocupações, Amodei propôs três medidas: restrições à venda de chips poderosos para a China, combate ao contrabando e operações de destilação em escala industrial, que permitem à China superar limitações de produção. Ele acredita que essas ações são a maneira mais eficaz de bloquear ameaças. Além disso, para todos os modelos com capacidades significativas, ele defende testes de segurança obrigatórios antes do lançamento, garantindo que todos, independentemente de serem abertos ou fechados, passem por avaliações rigorosas de riscos.

Amodei também comentou sobre a carta aberta que apoia modelos de pesos abertos, concordando com a maioria dos pontos, mas discordando da ideia de que esses modelos facilitam o desenvolvimento de salvaguardas. Ele acredita que, na verdade, pode haver uma assimetria onde atacantes possam usar modelos de IA para criar rapidamente agentes biológicos perigosos, enquanto a defesa requer um esforço de longo prazo.

Em resumo, Amodei reiterou que Anthropic não advoga a favor da proibição de modelos de pesos abertos, mas sim por manter chips poderosos fora das mãos de regimes autoritários, acabar com a destilação industrial e exigir testes de segurança para todos os modelos significativos.