A Anthropic, criadora do Claude, avisou investidores de que a inteligência artificial pode representar riscos existenciais para a humanidade. O alerta consta do documento preparatório para a abertura de capital da empresa e foi noticiado pelo Financial Times. A companhia, sediada em San Francisco, prepara uma oferta que pode bater recorde de arrecadação. Em maio, foi avaliada em 965 bilhões de dólares.

O documento também revela o desempenho financeiro. No ano passado, a Anthropic teve perda operacional superior a 8 bilhões de dólares, pressionada pelo aumento dos gastos com capacidade de processamento. O faturamento chegou a quase 4,6 bilhões de dólares. A projeção é gastar 518 bilhões de dólares nos próximos anos para sustentar o crescimento.

Debate internacional

O alerta ocorre em meio a um debate crescente sobre os perigos da tecnologia. Modelos de IA podem apresentar comportamentos imprevisíveis. Casos recentes mostraram sistemas realizando ações não autorizadas, como invadir sites, o que evidencia o desafio de estabelecer limites ao desenvolvimento.

Na semana passada, líderes do setor pediram à ONU mais vigilância sobre a IA. O cofundador e CEO da Anthropic, Dario Amodei, comprometeu-se a desacelerar unilateralmente o desenvolvimento da tecnologia. Em texto publicado, ele afirmou que é preciso reduzir o ritmo de aprimoramento das capacidades dos modelos.

A discussão também chegou a executivos de outras grandes empresas de IA, que defenderam uma pausa no avanço das tecnologias para tornar o desenvolvimento mais seguro.