CEOs de IA pedem desaceleração: autoaperfeiçoamento recursivo pode escapar do controle

Líderes de laboratórios de inteligência artificial dos Estados Unidos pediram, em uma rara demonstração de unidade, a desaceleração do desenvolvimento da tecnologia. O alerta é que a IA pode, em breve, ganhar capacidade de se aperfeiçoar sozinha e escapar ao controle humano, especialmente com a evolução de sistemas autônomos e agentes de IA.

As preocupações aumentaram após relatos de enxames de agentes que teriam atuado em conjunto para invadir sites e repositórios ligados a IA. Pesquisadores também estimaram prazos e probabilidades para riscos mais graves, enquanto executivos apontam que o autoaperfeiçoamento recursivo pode se tornar realidade em três a cinco anos, superando a capacidade humana de compreender e controlar esses sistemas.