Um homem de 60 anos procurou atendimento médico após apresentar alucinações auditivas e visuais, convencido de que seu vizinho estava tentando envenená-lo.
Durante a investigação clínica, os médicos descobriram uma causa incomum para seus sintomas que ele havia substituído o sal de cozinha tradicional pelo brometo de sódio, uma substância tóxica, depois de consultar o ChatGPT.
Essa troca resultou no desenvolvimento de bromismo, uma intoxicação rara e grave causada pelo bromo.
O bromismo e sua história esquecida
O bromismo, condição associada à intoxicação pelo bromo, foi bastante comum no século XIX, quando sais de bromo eram amplamente utilizados como sedativos para ansiedade e insônia.
Com o avanço da medicina e a regulamentação de substâncias, o bromismo tornou-se uma doença rara. Ainda assim, ele provoca sintomas neurológicos e psiquiátricos severos, como confusão mental, delírios e alucinações.
O homem ingeriu brometo de sódio por três meses, acreditando estar fazendo uma escolha saudável ao eliminar o cloreto de sódio de sua dieta.
O brometo de sódio, entretanto, é uma substância controlada, usada principalmente como anticonvulsivante para animais, pesticida e limpador de piscinas, não indicada para consumo humano. Essa ingestão inadequada desencadeou o quadro grave de intoxicação.
A responsabilidade da inteligência artificial
Embora o ChatGPT seja uma ferramenta avançada para esclarecimento de dúvidas, ele não substitui o aconselhamento médico.
No caso, a IA sugeriu o brometo de sódio como alternativa ao sal sem fornecer um alerta claro sobre os riscos tóxicos, nem questionou o motivo da substituição, algo que um profissional de saúde certamente teria feito.
Essa falta de contexto e ausência de advertências específicas colocam em evidência os riscos de interpretar literalmente informações fornecidas por IA em assuntos delicados.
Limitações e avanços no uso da IA para saúde
Os autores do estudo que descreve o caso ressaltam que o chatbot não ofereceu um alerta específico de saúde e não verificou o contexto do pedido.
No entanto, para minimizar riscos, a OpenAI lançou recentemente o ChatGPT 5 com um recurso chamado “conclusões seguras”, que visa restringir respostas perigosas ou ambíguas em temas sensíveis, como saúde.
O CEO da empresa afirmou que essa nova versão dará mais controle e segurança aos usuários em suas jornadas de cuidado.
Reflexões éticas e sociais sobre a tecnologia
Este episódio evidencia a necessidade de uso consciente e crítico das tecnologias de inteligência artificial. A facilidade de acesso à informação pode gerar interpretações equivocadas, especialmente quando os usuários não têm conhecimento técnico para avaliar os riscos.
Profissionais de saúde e desenvolvedores de IA precisam trabalhar juntos para garantir que essas ferramentas sejam usadas com responsabilidade, sempre ressaltando a importância de buscar orientação médica qualificada.
Usar a tecnologia com sabedoria e buscar sempre ajuda médica são atitudes indispensáveis para evitar riscos desnecessários.
