No começo deste mês, o Comitê Internacional da Cruz Vermelha (ICRC, na sigla em inglês) publicou um comunicado chamando atenção para um problema em expansão ligado ao uso de ferramentas de inteligência artificial generativa na elaboração de referências para pesquisas acadêmicas.
De acordo com a entidade, bibliotecas e centros de documentação têm recebido um volume crescente de pedidos por livros, artigos e estudos inexistentes, muitos deles criados integralmente por sistemas de IA generativa, como ChatGPT, Gemini e Copilot, sem registro em bases de dados confiáveis.
Pesquisas por IA
Segundo o ICRC, a ausência de um determinado título nos acervos não indica que a instituição esteja omitindo informações. O comunicado aponta que, em grande parte dos casos, a origem do problema está nas chamadas “alucinações” da inteligência artificial, quando os sistemas geram referências aparentemente consistentes, porém baseadas em dados inexistentes ou incorretos. Essa prática afeta diretamente a rotina das bibliotecas, que acabam destinando tempo e recursos à procura de materiais de pesquisa que nunca foram publicados.
Diante dessa realidade, a orientação é que pesquisadores, estudantes e demais profissionais realizem consultas prévias em catálogos digitais e bases bibliográficas reconhecidas antes de formalizar solicitações de referência. A iniciativa tem como objetivo evitar demandas improdutivas e fortalecer procedimentos fundamentais de checagem e validação da informação em contextos acadêmicos e institucionais.
Problema para bibliotecas
O posicionamento do ICRC reforça um debate que já vem sendo levantado por bibliotecas, universidades e editoras científicas em diversos países. Profissionais da área de ciência da informação alertam que modelos de linguagem generativa são projetados para produzir respostas coerentes do ponto de vista textual, e não para garantir a veracidade do conteúdo.
Como consequência, referências inexistentes, títulos de artigos que nunca foram publicados e autores fictícios podem ser apresentados de forma plausível, dificultando a identificação de inconsistências, sobretudo por usuários com menor familiaridade com métodos de checagem.
Diante desse cenário, organizações internacionais, bibliotecas e instituições de ensino superior têm defendido que a inteligência artificial seja empregada como instrumento de apoio à pesquisa, e não como fonte principal de informação. A orientação é especialmente enfatizada em áreas científicas, jurídicas e humanitárias, nas quais a precisão e a confiabilidade dos dados são fundamentais.
