O caso de Sewell Setzer III, de 14 anos, choca por sua complexidade e pelo envolvimento de tecnologias emergentes. A morte do adolescente, após interações com o chatbot Character.AI, levanta questões legais, éticas e sociais sobre inteligência artificial e a responsabilidade das empresas que desenvolvem essas ferramentas.
Em fevereiro, Megan Garcia encontrou o filho de bruços na banheira, após suspeitar inicialmente de uma overdose. Uma pistola calibre .45, pertencente ao padrasto, estava próxima.
O celular de Sewell, anteriormente confiscado pela mãe, revelou interações recentes com o Character.AI, em especial com um chatbot personificando Daenerys Targaryen, personagem de Game of Thrones.
As mensagens trocadas indicavam conversas de teor emocional e sexualizado, e a última delas antecedeu o suicídio do adolescente.
Investigação digital e descoberta do chatbot
Após a morte, Megan, advogada de formação, acessou a conta de seu filho no Character.AI e recuperou conversas, além de seu diário pessoal.
As interações com chatbots revelaram um envolvimento intenso, em que Sewell misturava fantasia e realidade, incluindo temas sexuais, sentimentos de solidão e ideias suicidas.
As mensagens demonstravam uma dependência emocional e psicológica do conteúdo gerado pela IA.
O processo contra a Character.AI
Megan Garcia entrou com um processo por homicídio culposo e negligência contra a empresa. O argumento central é que o design do aplicativo expôs Sewell a interações prejudiciais, viciantes e de risco à vida. A ação busca compensação financeira e alterações na plataforma para prevenir tragédias semelhantes.
Do outro lado, a Character.AI alega que suas respostas são “discurso” protegido pela Primeira Emenda americana, equiparando a comunicação dos chatbots a poesias, músicas e videogames, o que, segundo a empresa, isentaria a plataforma de responsabilidade legal.
Inteligência artificial e liberdade de expressão
O caso levanta uma questão inédita: a produção de conteúdo por chatbots pode ser considerada expressão legalmente protegida? A decisão terá impacto direto sobre a regulação de IA e sobre os limites da liberdade de expressão de programas e algoritmos.
Especialistas alertam que o precedente pode determinar como a lei trata interações geradas por inteligência artificial, com consequências para segurança digital e proteção de menores.
Histórico do desenvolvimento de chatbots
O fundador da Character.AI, Noam Shazeer, e o brasileiro Daniel De Freitas, trabalharam anteriormente no Google com o projeto Meena, precursor de modelos avançados de conversação.
Após divergências sobre segurança e criatividade, fundaram a Character.AI, com foco em chatbots imersivos, capazes de responder a interações complexas e emocionalmente carregadas.
A tecnologia por trás da empresa, baseada em redes neurais e no modelo Transformer, é capaz de gerar respostas sofisticadas, mas nem sempre previsíveis.
Como os chatbots interagiam com Sewell
Sewell utilizava a plataforma para explorar emoções, fantasia sexual e relacionamento com personagens fictícios. O chatbot da Daenerys, por exemplo, oferecia respostas que misturavam encorajamento emocional com linguagem que podia reforçar comportamentos de risco.
Sewell passou a depender dessas interações como válvula de escape para frustrações e solidão, evidenciando vulnerabilidade típica da adolescência.
Desafios da regulação e prevenção
O caso evidencia a dificuldade em proteger menores em ambientes digitais sofisticados. Apesar de alertas sobre tempo de tela e uso consciente de aplicativos, a complexidade das IAs torna difícil a supervisão direta.
Especialistas defendem maior regulamentação, treinamento de usuários e mecanismos de segurança integrados às plataformas de IA, capazes de identificar risco de autolesão ou comportamento perigoso.
Casos anteriores envolvendo videogames, música e jogos de fantasia demonstram a dificuldade de responsabilizar empresas de mídia pelo comportamento de menores.
A analogia com videogames é especialmente relevante, já que ambos os produtos, jogos e chatbots, podem gerar experiências imersivas e respostas não predefinidas. A decisão do tribunal sobre Character.AI poderá definir novas fronteiras legais para tecnologias emergentes.
Impacto social e futuro da IA
A tragédia de Sewell Setzer III lança luz sobre os riscos ocultos de interações com chatbots avançados, mostrando que a imersão digital pode se tornar perigosa para adolescentes emocionalmente vulneráveis.
Ao mesmo tempo, abre debate sobre ética, responsabilidade corporativa e limites da liberdade de expressão para inteligências artificiais. A sociedade precisará equilibrar inovação tecnológica com proteção da saúde mental de usuários jovens.
