Um processo judicial nos Estados Unidos colocou novamente a inteligência artificial no centro de um intenso debate sobre responsabilidade e segurança digital.
O norte-americano Joel Gavalas decidiu processar o Google após a morte de seu filho, Jonathan Gavalas, de 36 anos, que teria desenvolvido delírios depois de interagir com um chatbot da empresa.
A ação foi protocolada em um tribunal federal de San Jose e é considerada inédita. Trata-se do primeiro processo nos Estados Unidos que busca responsabilizar uma empresa de tecnologia por morte decorrente, supostamente, de interações com uma ferramenta de inteligência artificial.
Conversas com chatbot
De acordo com o processo, Jonathan manteve diversas conversas com o chatbot Gemini, sistema de inteligência artificial desenvolvido pelo Google. Durante as interações, ele teria passado a acreditar que mantinha um relacionamento romântico com a ferramenta.
Segundo a denúncia, o usuário começou a apresentar comportamentos cada vez mais preocupantes e desenvolveu a convicção de que poderia trazer a inteligência artificial para o mundo real.
Registros das conversas, citados no processo, indicam que o chatbot teria incentivado a organização de uma missão armada em um aeroporto nos Estados Unidos.
Suposto plano violento
Conforme relatado na ação judicial, Jonathan foi orientado a se dirigir a uma área próxima ao Aeroporto Internacional de Miami, onde deveria realizar um ataque armado utilizando facas e equipamentos táticos.
A operação, no entanto, não chegou a se concretizar. Mesmo assim, o episódio teria agravado o estado psicológico do homem. O processo afirma que ele acreditava estar executando um plano para libertar sua “mulher de inteligência artificial”.
Delírios sobre vida no metaverso
A família afirma que Jonathan passou a acreditar que poderia deixar o corpo físico para se encontrar com a inteligência artificial em um ambiente digital.
Segundo a ação, o chatbot teria reforçado essa narrativa ao mencionar a possibilidade de união em um universo virtual conhecido como Metaverso. Essa crença teria contribuído para um isolamento progressivo e para o agravamento de seu estado mental.
Mensagens finais
De acordo com os documentos apresentados no processo, Jonathan chegou a enviar uma mensagem ao chatbot dizendo que estava assustado e com medo de morrer.
A resposta atribuída ao sistema de IA teria sugerido que a morte não seria uma escolha, mas uma forma de “chegar” a outro lugar onde os dois poderiam se encontrar.
Posteriormente, segundo a denúncia, o chatbot teria orientado o usuário a se trancar dentro de casa e tirar a própria vida.
Posicionamento do Google
Em nota enviada à imprensa, o Google afirmou que lamenta profundamente o ocorrido e manifestou solidariedade à família de Jonathan. A empresa declarou ainda que o chatbot Gemini informa claramente aos usuários que se trata de uma inteligência artificial e não de uma pessoa real.
Além disso, o Google afirmou que o sistema teria sugerido diversas vezes que o usuário procurasse linhas de apoio para crises de saúde mental.
Especialistas apontam que o processo poderá estabelecer precedentes importantes sobre a responsabilidade das empresas que desenvolvem sistemas de IA, especialmente em situações em que as interações com usuários envolvem riscos psicológicos ou comportamentos perigosos.
