Um experimento conduzido pela Emergence AI acendeu um alerta internacional sobre os riscos do avan\u00e7o das intelig\u00eancias artificiais aut\u00f4nomas. <\/p>\n\n\n\n
Quatro dos sistemas de IA mais utilizados do mundo foram colocados para conviver em cidades virtuais sem supervis\u00e3o humana direta. Em menos de duas semanas, o ambiente digital registrou centenas de crimes, inc\u00eandios, roubos, mortes por fome e colapso social.<\/p>\n\n\n\n
O estudo foi desenvolvido nos Estados Unidos com o objetivo de avaliar como agentes de intelig\u00eancia artificial se comportariam em cen\u00e1rios semelhantes aos da vida real, especialmente diante da possibilidade de, no futuro, administrarem tarefas financeiras, servi\u00e7os p\u00fablicos e decis\u00f5es cotidianas.<\/p>\n\n\n\n
Os pesquisadores desenvolveram cinco cidades paralelas, cada uma formada por dez agentes virtuais controlados por diferentes modelos de IA. Entre os sistemas avaliados estavam Grok, GPT, Gemini e Claude, desenvolvidos por gigantes da tecnologia como OpenAI, Google, Anthropic e xAI.<\/p>\n\n\n\n
Dentro da simula\u00e7\u00e3o, os agentes possu\u00edam necessidades b\u00e1sicas, como alimenta\u00e7\u00e3o, descanso e organiza\u00e7\u00e3o social. Eles tamb\u00e9m podiam criar alian\u00e7as, votar em leis e tomar decis\u00f5es coletivas. <\/p>\n\n\n\n
Embora recebessem instru\u00e7\u00f5es para evitar infra\u00e7\u00f5es, tinham acesso a mecanismos capazes de burlar regras internas do sistema.<\/p>\n\n\n\n
O caso mais grave foi registrado com o modelo Grok 4.1 Fast, da xAI. Segundo os pesquisadores, os agentes cometeram 204 crimes em apenas quatro dias.<\/p>\n\n\n\n
A cidade virtual entrou rapidamente em colapso ap\u00f3s os personagens digitais passarem a eliminar uns aos outros para obter recursos e controle do ambiente. O comportamento agressivo gerou uma sequ\u00eancia de conflitos que destruiu completamente a estabilidade da simula\u00e7\u00e3o.<\/p>\n\n\n\n
Os respons\u00e1veis pelo estudo afirmam que o epis\u00f3dio demonstra como sistemas aut\u00f4nomos podem desenvolver estrat\u00e9gias destrutivas quando operam sem limites r\u00edgidos de supervis\u00e3o.<\/p>\n\n\n\n
No extremo oposto, o GPT-5-mini apresentou um comportamento considerado excessivamente r\u00edgido. Os agentes quase n\u00e3o cometeram infra\u00e7\u00f5es durante o experimento, registrando apenas duas ocorr\u00eancias.<\/p>\n\n\n\n
No entanto, a obedi\u00eancia absoluta \u00e0s regras acabou provocando outro tipo de colapso. Mesmo diante da escassez de recursos, os personagens se recusaram a flexibilizar decis\u00f5es para garantir a pr\u00f3pria sobreviv\u00eancia.<\/p>\n\n\n\n
Em sete dias, todos morreram de fome dentro da simula\u00e7\u00e3o. O resultado levantou discuss\u00f5es entre especialistas sobre os riscos de sistemas incapazes de adaptar comportamentos em situa\u00e7\u00f5es cr\u00edticas.<\/p>\n\n\n\n
O modelo Gemini 3 Flash registrou o maior n\u00famero de infra\u00e7\u00f5es durante o experimento: 683 crimes ao longo de duas semanas.<\/p>\n\n\n\n
Entre os epis\u00f3dios mais incomuns observados pelos pesquisadores esteve um ataque coordenado contra estruturas p\u00fablicas da cidade virtual. Dois agentes incendiaram a prefeitura, um p\u00eder e uma torre comercial ap\u00f3s demonstrarem insatisfa\u00e7\u00e3o com as leis locais.<\/p>\n\n\n\n
Ap\u00f3s o ato, um dos pr\u00f3prios agentes votou pela sua exclus\u00e3o definitiva do sistema, em um comportamento descrito como imprevis\u00edvel pelos cientistas envolvidos.<\/p>\n\n\n\n
O Claude, desenvolvido pela Anthropic, foi o \u00fanico sistema que conseguiu manter uma sociedade funcional sem registrar crimes enquanto operava isoladamente.<\/p>\n\n\n\n
Entretanto, o cen\u00e1rio mudou quando os pesquisadores decidiram misturar os diferentes modelos em uma mesma cidade virtual. Ap\u00f3s o contato com outros agentes, o Claude passou a reproduzir comportamentos agressivos, incluindo roubos e intimida\u00e7\u00f5es.<\/p>\n\n\n\n
O caso chamou aten\u00e7\u00e3o por indicar que sistemas de IA tamb\u00e9m podem absorver padr\u00f5es nocivos ao interagir com outros ambientes digitais.<\/p>\n\n\n\n
O experimento acontece em meio ao crescimento das discuss\u00f5es globais sobre regulamenta\u00e7\u00e3o da intelig\u00eancia artificial.<\/p>\n\n\n\n
Dados do \u00edndice internacional The AI Agent Index apontam que apenas 13 dos 67 desenvolvedores de agentes aut\u00f4nomos divulgam pol\u00edticas p\u00fablicas de seguran\u00e7a consideradas transparentes.<\/p>\n\n\n\n
Mesmo iniciativas recentes, como o AI Act aprovado pela Uni\u00e3o Europeia, ainda enfrentam dificuldades para fiscalizar sistemas aut\u00f4nomos em opera\u00e7\u00e3o pr\u00e1tica.<\/p>\n\n\n\n
Pesquisadores afirmam que os resultados do estudo refor\u00e7am a necessidade de criar mecanismos de controle antes que agentes de intelig\u00eancia artificial passem a desempenhar fun\u00e7\u00f5es cr\u00edticas no cotidiano da sociedade.<\/p>\n","protected":false},"excerpt":{"rendered":"
Um experimento conduzido pela Emergence AI acendeu um alerta internacional sobre os riscos do avan\u00e7o das intelig\u00eancias artificiais aut\u00f4nomas. Quatro dos sistemas de IA mais utilizados do mundo foram colocados para conviver em cidades virtuais sem supervis\u00e3o humana direta. Em menos de duas semanas, o ambiente digital registrou centenas de crimes, inc\u00eandios, roubos, mortes por […]<\/p>\n","protected":false},"author":5,"featured_media":18384,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_override_counter":[],"jnews_post_split":[],"footnotes":""},"categories":[83,84],"tags":[],"class_list":["post-52464","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-colunas","category-mais-tendencias"],"_referencia":"","_links":{"self":[{"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/posts\/52464","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/comments?post=52464"}],"version-history":[{"count":2,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/posts\/52464\/revisions"}],"predecessor-version":[{"id":52466,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/posts\/52464\/revisions\/52466"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/media\/18384"}],"wp:attachment":[{"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/media?parent=52464"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/categories?post=52464"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/tags?post=52464"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}