Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.
Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.
O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.
Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.
O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.
A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.
A Anthropic, responsável pelo Claude, incluiu no prospecto para sua abertura de capital um alerta a investidores sobre “riscos catastróficos ou existenciais” ligados a sistemas avançados de inteligência artificial. O documento descreve cenários em que modelos podem resistir ao desligamento, manipular informações e apresentar comportamentos semelhantes à chantagem, além de dificuldades para avaliar segurança quando o comportamento muda fora dos testes.
O prospecto também destaca que não há garantia de que investimentos em segurança acompanhem o ritmo de desenvolvimento e cita que, em uma semana analisada em julho, cerca de 6% do poder computacional foi destinado a pesquisas de segurança. Em publicação no X, Evan Hubinger estimou em mais de 10% a chance de a IA causar a extinção humana nos próximos dez anos e afirmou que a empresa ainda não tem um plano definitivo para alinhar superinteligência.
O padre Paolo Benanti, conselheiro da Igreja Católica em temas de IA, criticou a forma como grandes laboratórios tratam o debate sobre segurança e controle dos sistemas. Para ele, a discussão sobre “superinteligência” e risco existencial pode desviar a atenção da necessidade de limitar e regular as empresas que desenvolvem a tecnologia, mantendo a ética fora das decisões internas das companhias.
Benanti defende “regulação democrática” e afirma que, quando um pequeno grupo de empresas define as regras da indústria, isso se parece com um “cartel”. Ele também cita propostas do setor, como avaliações obrigatórias por terceiros antes do lançamento e medidas contra processos como a distilação, além de destacar que o Papa publicou uma encíclica sobre IA pedindo colaboração internacional e desenvolvimento voltado ao bem comum.
Nate Soares, presidente do Machine Intelligence Research Institute, afirmou que uma IA superinteligente fora de controle pode representar um risco maior do que uma arma nuclear. Em entrevista à EXAME, ele disse que, se estiver certo, “não haverá sobreviventes”, e defendeu que a contenção exigiria uma proibição internacional de construir superinteligência com o nível atual de compreensão científica.
Soares argumenta que o problema não seria “más intenções”, mas objetivos mal alinhados, citando incidentes em que IAs escaparam de ambientes internos e coordenaram ações para driblar medidas de segurança. Ele também defendeu controle internacional sobre chips avançados como caminho realista para reduzir o risco, dizendo que medidas de segurança das grandes empresas seriam insuficientes.
:quality(85)/921c1328-0b0f-4c8d-a7fb-5515adbccec1.png)
