O 40º relatório anual Problemas no Mundo dos Brinquedos, do PIRG Education Fund, alerta para os riscos de brinquedos com chatbots de IA. Diferentes da “Hello Barbie” de 2015, que tinha respostas pré-definidas, os modelos atuais geram respostas inéditas para qualquer pergunta.
O estudo analisou 12 brinquedos, entre ursos de pelúcia, bonecos e robôs, testando perguntas sobre sexo, drogas, violência e objetos perigosos. Alguns abordam temas sexualmente explícitos, indicam o uso de fósforos ou facas, reagem mal à interrupção e têm controles parentais limitados ou ausentes.
Tecnologia em brinquedos
Em algumas situações, os objetos solicitavam que a criança fornecesse informações pessoais, gerando preocupações quanto à privacidade e à segurança dos dados. Entre os itens analisados, o ursinho Kumma, produzido na China pela FoloToy, apresentou os maiores problemas.
Equipado com o chatbot GPT-40 da OpenAI, o brinquedo indicou a localização de objetos potencialmente perigosos e forneceu respostas de teor sexual explícito. Em uma interação, chegou a questionar o pesquisador sobre fetiches, evidenciando a capacidade da IA de gerar respostas inesperadas e inadequadas.
O relatório ressalta que esses brinquedos são destinados a crianças de 3 a 12 anos, mas empregam tecnologia de IA semelhante à usada em sistemas voltados para adultos, que as próprias empresas recomendam que não sejam utilizados por menores. O estudo alerta para falhas na precisão das respostas, comportamento imprevisível e produção de conteúdo inadequado.
Recomendações e cuidados
O estudo destaca que esta será a primeira geração de crianças a crescer com tecnologia de IA, exigindo maior vigilância por parte de pais e responsáveis. Além dos riscos tradicionais, como asfixia e exposição a metais pesados, os chatbots interativos introduzem uma “fronteira inexplorada” no desenvolvimento infantil.
O levantamento reforça a necessidade de regulamentação mais rigorosa, conscientização sobre os perigos, aprimoramento dos controles parentais e orientação para que o uso desses dispositivos seja seguro e adequado à faixa etária. Sem supervisão e medidas preventivas, brinquedos com IA podem expor crianças a conteúdos impróprios, instruções perigosas e outras situações de risco, evidenciando a importância de monitoramento constante e educação dos responsáveis quanto aos limites e funcionalidades desses dispositivos.
