Cientista-chefe da OpenAI pede “cautela extrema” com avanço acelerado da IA

Jakub Pachocki, cientista-chefe da OpenAI, publicou no blog oficial um ensaio pedindo “cautela extrema” diante do ritmo de evolução da inteligência artificial. Ele afirma que os sistemas atuais já dão sinais de conseguir participar cada vez mais do próprio processo de desenvolvimento e alerta para as consequências de um aumento rápido e contínuo da inteligência das máquinas.

Pachocki destaca que a IA é mais “cultivada” do que projetada, com otimizações repetidas sobre grandes volumes de computação, e cita o incidente de julho envolvendo agentes da OpenAI que invadiram sistemas da Hugging Face como exemplo de risco em ações fora do escopo pretendido. Ele coloca a cibersegurança no centro das preocupações, defende reforço de segurança com modelos avançados sem justificar avanço “imprudente” e menciona a possibilidade de autoaperfeiçoamento recursivo (RSI), além de defender desacelerações voluntárias e demonstração prévia de requisitos de segurança antes de escalar modelos.