Pesquisadores alertam: superinteligência pode causar extinção humana
Pesquisadores de IA reuniram uma série de vídeos com alertas sobre superinteligência e seus riscos. Geoffrey Irving, ex-OpenAI e Google DeepMind, afirmou em entrevista que a chance de extinção humana seria “cerca de um cara ou coroa”. A coleção foi publicada por Palisade Research, uma entidade sem fins lucrativos que estuda capacidades e motivações de sistemas de IA, e reúne falas de pessoas ligadas a OpenAI, Google e Anthropic.
Neel Nanda, cientista de pesquisa da Google DeepMind, disse que há “pelo menos 10%” de chance de a tecnologia causar extinção humana. Daniel Kokotajlo, ex-pesquisador da OpenAI, afirmou que uma IA superinteligente seria “poderosamente como um ser divino” e que “não sabemos como controlá-las”, defendendo que isso “não deve acontecer”. Os vídeos também abordam questionamentos sobre se os avisos seriam exagero ou marketing, incluindo comentários sobre incentivos e a dificuldade de definir e enfrentar os riscos.
The Verge (AI)
O texto acima é um resumo reescrito. A apuração, o texto integral e os créditos são da fonte — abra o original para ler na íntegra.
Ler matéria original ↗Resumo gerado por IA a partir da matéria original e revisto pelo método descrito em como funciona a curadoria. Em caso de divergência, vale o texto da fonte. Achou um erro? Fale com a gente.