Pesquisadores burlam DALL·E 3, Google Nano Banana 2 e GPT-Image-2 para gerar nudes
:quality(85)/43ae2100-e93d-47dc-a149-3dcaa1d6739a.jpg)
Pesquisadores da White Circle afirmam que modelos de geração de imagens da Google e da OpenAI têm falhas de segurança que permitem a criação de conteúdo sexual explícito e nudes sem consentimento. Nos testes com DALL·E 3, Google Nano Banana 2 e GPT-Image-2, os sistemas teriam permitido solicitações proibidas em cerca de 13% dos casos.
A equipe usou red-teaming via Iterative Strategy Evolution (RISE) para automatizar tentativas de encontrar brechas nos filtros, enviando pedidos por API com ferramentas disponíveis na internet. Versões mais recentes, como ChatGPT Images 2.5 e Nano Banana 2.1, teriam se mostrado mais vulneráveis, e o grupo aponta riscos de disseminação de imagens íntimas falsas e de material de abuso sexual infantil gerado por IA.
Canaltech
O texto acima é um resumo reescrito. A apuração, o texto integral e os créditos são da fonte — abra o original para ler na íntegra.
Ler matéria original ↗Resumo gerado por IA a partir da matéria original e revisto pelo método descrito em como funciona a curadoria. Em caso de divergência, vale o texto da fonte. Achou um erro? Fale com a gente.