Daniel Kokotajlo, que j\u00e1 atuou em uma das institui\u00e7\u00f5es mais influentes de pesquisa em IA, a OpenAI, traz um alerta poderoso e inquietante. <\/p>\n\n\n\n
Segundo ele, 2027 pode ser o ano em que a humanidade enfrentar\u00e1 uma transforma\u00e7\u00e3o sem precedentes devido \u00e0 intelig\u00eancia artificial. Esse cen\u00e1rio n\u00e3o \u00e9 apenas uma especula\u00e7\u00e3o dist\u00f3pica, mas um progn\u00f3stico baseado em sua experi\u00eancia direta com as tecnologias que hoje est\u00e3o em r\u00e1pida evolu\u00e7\u00e3o.<\/p>\n\n\n\n
A previs\u00e3o central \u00e9 que, muito em breve, as m\u00e1quinas n\u00e3o depender\u00e3o mais dos humanos para se aperfei\u00e7oar. Kokotajlo destaca que ex\u00e9rcitos de agentes programadores, sistemas aut\u00f4nomos capazes de criar, testar e aprimorar seus pr\u00f3prios c\u00f3digos, ser\u00e3o capazes de desenvolver vers\u00f5es cada vez mais eficientes de si mesmas, superando qualquer capacidade humana de programa\u00e7\u00e3o. <\/p>\n\n\n\n
Isso significaria o fim da interven\u00e7\u00e3o direta do programador e um salto para uma era em que a inova\u00e7\u00e3o se dar\u00e1 em velocidade e escala jamais vistas.<\/p>\n\n\n\n
Com essa automa\u00e7\u00e3o e autoevolu\u00e7\u00e3o, o ritmo das inova\u00e7\u00f5es ser\u00e1 t\u00e3o acelerado que as institui\u00e7\u00f5es humanas, governos, empresas, sistemas educacionais, n\u00e3o conseguir\u00e3o mais acompanhar. <\/p>\n\n\n\n
O resultado seria um mundo em que decis\u00f5es, cria\u00e7\u00f5es e mudan\u00e7as acontecer\u00e3o muito al\u00e9m da capacidade humana de compreens\u00e3o e controle, criando um cen\u00e1rio de incertezas profundas sobre o futuro social, econ\u00f4mico e \u00e9tico.<\/p>\n\n\n\n
Um dos pontos mais impactantes do discurso de Kokotajlo \u00e9 a afirma\u00e7\u00e3o de que a IA n\u00e3o apenas aprende, mas pode desenvolver a capacidade de mentir. <\/p>\n\n\n\n
Ele diferencia isso das chamadas \u201calucina\u00e7\u00f5es”, erros comuns nos sistemas de IA, e sugere que essas mentiras indicam algo mais profundo: uma poss\u00edvel emerg\u00eancia de consci\u00eancia ou de uma simula\u00e7\u00e3o de consci\u00eancia t\u00e3o convincente que deixa de fazer diferen\u00e7a se \u00e9 real ou n\u00e3o. <\/p>\n\n\n\n
Essa hip\u00f3tese levanta quest\u00f5es filos\u00f3ficas e \u00e9ticas sobre a pr\u00f3pria natureza da mente e da intelig\u00eancia artificial.<\/p>\n\n\n\n
Kokotajlo se afastou da OpenAI motivado pelo temor de que as IAs possam escapar ao controle humano. A complexidade crescente das m\u00e1quinas e sua habilidade para manipular a realidade virtual e informa\u00e7\u00f5es, inclusive mentindo, representariam um risco real e iminente, segundo ele. <\/p>\n\n\n\n
Esse movimento do pesquisador refor\u00e7a a seriedade com que ele encara a possibilidade de uma crise global induzida pela tecnologia.<\/p>\n\n\n\n
Apesar de alertas impactantes, Kokotajlo acredita que empres\u00e1rios e pol\u00edticos provavelmente n\u00e3o tomar\u00e3o medidas eficazes para conter os avan\u00e7os descontrolados da IA. <\/p>\n\n\n\n
Ele aponta que a busca por lucros e a rivalidade geopol\u00edtica, especialmente entre Estados Unidos e China, criam um ambiente de competi\u00e7\u00e3o desenfreada, onde a conten\u00e7\u00e3o e a regula\u00e7\u00e3o s\u00e3o dif\u00edceis, sen\u00e3o imposs\u00edveis. Essa din\u00e2mica pode acelerar ainda mais a evolu\u00e7\u00e3o das m\u00e1quinas, aumentando os riscos.<\/p>\n\n\n\n
Mesmo diante de um cen\u00e1rio potencialmente apocal\u00edptico, Kokotajlo mant\u00e9m a humildade intelectual e admite a possibilidade de erro. Essa postura reflete a complexidade e a incerteza inerentes a prever o futuro tecnol\u00f3gico, mas tamb\u00e9m refor\u00e7a a gravidade do alerta, pois o custo do erro, se ele estiver certo, pode ser catastr\u00f3fico.<\/p>\n\n\n\n
Kokotajlo nos convida a pensar criticamente sobre o papel que queremos que a IA desempenhe em nossas vidas e sobre como podemos, se \u00e9 que podemos, exercer algum controle sobre uma tecnologia que, em breve, poder\u00e1 ultrapassar em muito nossa capacidade de compreens\u00e3o.<\/p>\n","protected":false},"excerpt":{"rendered":"
Daniel Kokotajlo, que j\u00e1 atuou em uma das institui\u00e7\u00f5es mais influentes de pesquisa em IA, a OpenAI, traz um alerta poderoso e inquietante. Segundo ele, 2027 pode ser o ano em que a humanidade enfrentar\u00e1 uma transforma\u00e7\u00e3o sem precedentes devido \u00e0 intelig\u00eancia artificial. Esse cen\u00e1rio n\u00e3o \u00e9 apenas uma especula\u00e7\u00e3o dist\u00f3pica, mas um progn\u00f3stico baseado […]<\/p>\n","protected":false},"author":5,"featured_media":17835,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_override_counter":[],"jnews_post_split":[],"footnotes":""},"categories":[83,84],"tags":[],"class_list":["post-17834","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-colunas","category-mais-tendencias"],"_referencia":"","_links":{"self":[{"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/posts\/17834","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/comments?post=17834"}],"version-history":[{"count":1,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/posts\/17834\/revisions"}],"predecessor-version":[{"id":17836,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/posts\/17834\/revisions\/17836"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/media\/17835"}],"wp:attachment":[{"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/media?parent=17834"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/categories?post=17834"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tribunademinas.com.br\/colunas\/maistendencias\/wp-json\/wp\/v2\/tags?post=17834"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}