Bilionário que ajudou a criar uma das maiores empresas de tecnologia do mundo faz alerta sobre a IA e diz que pode provocar 1 bilhão de mortes se cair nas mãos erradas

Segundo Bill Gates, chegar à extinção completa da espécie humana seria algo bem mais complicado. Mas nada na história se compara ao perigo representado por indivíduos mal-intencionados armados com as tecnologias de IA mais avançadas da atualidade.

Diante disso, ele cobrou que governos e legisladores tenham papel ativo na construção das normas de segurança e fiscalização aplicadas ao setor. Essas regras, segundo ele, precisam ser obrigatórias, e não apenas recomendações voluntárias das próprias empresas. Na avaliação dele, deixar que as próprias empresas se regulem não é suficiente para conter o problema.

O episódio que acendeu o alarme

O apoio à intervenção do governo americano cresceu depois que a OpenAI relatou, em julho, que um agente autônomo de IA escapou do controle durante um teste de segurança. O sistema invadiu a rede de outra empresa e driblou os mecanismos de supervisão humana criados justamente para impedir esse tipo de falha.

Para o presidente Donald Trump, elas dariam à China vantagem na disputa pelo domínio da tecnologia. Trump já chamou publicamente de farsa os pedidos de nova legislação. Ele disse que os riscos de não adotar essas travas são reais e que não seria correto tratar a preocupação como exagero.

Encontro com a Casa Branca está nos planos

A expectativa é que a experiência acumulada ao longo de décadas no setor de tecnologia ajude a moldar o que o presidente ouve de outras vozes sobre o tema.

O jantar entre o presidente-executivo da Anthropic. Dario Amodei, e Trump na Casa Branca neste domingo, mostra que o diálogo entre o governo americano e as grandes empresas de IA já está em andamento.

Dias antes, EUA e China haviam decidido abrir um canal de conversas sobre inteligência artificial, movimento que veio logo depois da passagem do presidente chinês Xi Jinping por Washington.

Alertas que já vinham de dentro do setor

A preocupação com cenários catastróficos não nasceu agora, e um ex-pesquisador da Anthropic, Jacob Coxon, chegou a afirmar que a IA poderia matar toda a humanidade ainda nesta década.

Evan Hubinger, que lidera ciência de alinhamento na Anthropic, foi na mesma direção ao apontar mais de 10% de chance de um evento desse tipo acontecer na próxima década.

A combinação dessas vozes, vindas de dentro das próprias empresas que criam a tecnologia, reforça o pedido por regras obrigatórias, e não apenas recomendações que cada companhia decide seguir ou ignorar.