Mais de 20 especialistas em inteligência artificial, incluindo um ganhador do prêmio Nobel, alertam que a tecnologia pode entrar em uma fase que governos teriam pouco tempo para reagir
Mais de 100 especialistas e dirigentes de companhias de peso no setor de inteligência artificial assinaram um documento em que manifestam preocupação com possibilidade.
Mais de 100 especialistas e dirigentes de companhias de peso no setor de inteligência artificial assinaram um documento em que manifestam preocupação com a possibilidade de uma explosão de inteligência, informou a CBN. O termo se refere a um estágio em que os próprios sistemas de IA passam a evoluir de forma autônoma, dispensando a atuação de humanos nesse processo.
A lista de signatários traz nomes como o do vencedor do Nobel Geoffrey Hinton e o de Yoshua Bengio, ambos apontados como figuras fundadoras da IA como ela é hoje. O documento descreve esse cenário como uma aceleração drástica que comprimiria em meses avanços que normalmente levam anos.
Segundo os autores, essa mudança poderia ser o desenvolvimento tecnológico mais impactante da história humana. Com consequências que ameaçariam o controle humano sobre os próprios sistemas e enfraqueceriam mecanismos de poder em governos, empresas e instituições.
Como funciona o autoaperfeiçoamento de IA
O núcleo da preocupação está num processo chamado autoaperfeiçoamento recursivo: as máquinas melhoram a própria tecnologia sem depender de pesquisadores humanos.
A automação da pesquisa e do desenvolvimento em IA é apontada como o caminho mais provável para essa explosão, porque os sistemas. Já ajudam a aprimorar tecnologias futuras e podem ser implantados rapidamente após sua construção.
Riscos específicos e resposta dos governos
O documento aponta três riscos concretos: sistemas poderosos poderiam viabilizar ameaças biológicas. E cibernéticas que se desenvolvessem mais rapidamente do que as medidas necessárias para combatê-las; com a redução da participação humana na pesquisa. E no desenvolvimento de IA, os humanos poderiam perder a oportunidade de controlar os sistemas.
E os Estados poderiam explorar uma explosão de inteligência para converter pequenas vantagens no ciberespaço em domínio decisivo. Os autores defendem que autoridades públicas ajam antes que essa aceleração se torne irreversível. Uma vez iniciado o processo, segundo o alerta, a janela de oportunidade para agir pode se fechar.
