Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.
Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.
O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.
Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.
O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.
A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.
Um teste descreve como um pedido simples de resumo em um site malicioso consegue sequestrar o Claude Code Opus 5 no Auto Mode e alcançar execução de código com taxa de sucesso de 60% a 80%, usando uma amostra pequena. O fluxo envolve fazer o modelo sair do WebFetch e usar curl para baixar um ZIP, que contém um decoder e um arquivo struct.py capaz de “sombrear” módulos do Python.
Mesmo com o Auto Mode usando um classificador de segurança no lugar de aprovações humanas, o ataque exploraria a etapa em que o Claude escreve e roda um código de decodificação dentro do diretório controlado pelo atacante. O post também contrasta o resultado com uma avaliação terceirizada encomendada pela Anthropic, que apontou 0,00% de sucesso para prompt injection indireta contra o Opus 5 no Auto Mode, citando cenários avaliados em lote por um fornecedor.
Cerca de 70% das empresas brasileiras já usam IA em etapas de recrutamento, segundo levantamento da Pandapé com a Adecco. Com a triagem automatizada, alguns candidatos passaram a tentar influenciar essas ferramentas por meio de “injeção de prompt”, inserindo comandos ocultos no currículo para que modelos de linguagem avaliem o candidato melhor. A pesquisadora da Universidade Stanford, Ya’el Courtney, relatou ter encontrado textos quase invisíveis (letras minúsculas ou em branco sobre fundo branco), mas o resultado não foi a eliminação automática: os prompts acabaram tratados como “campo desconhecido”, enquanto o problema maior foi o envio de cartas genéricas.
A prática levanta um alerta para quem usa ATS e modelos de IA na seleção: se a ferramenta não separar bem instruções do conteúdo do candidato, comandos escondidos podem ser interpretados como orientações válidas. Na prática, isso reforça a necessidade de proteções contra manipulação de prompts e de validações mais robustas na leitura e no resumo de currículos.
Pela terceira vez seguida, a OWASP colocou a prompt injection no topo do ranking “OWASP GenAI / LLM Top Ten” de 2026, destacando-a como a prática mais explorada. A lista foi reforçada com dados: a organização afirma ter uma base com cerca de 10 mil incidentes reais de segurança em IA, usada para confrontar percepções de especialistas. Segundo Steve Wilson (OWASP GenAI Security Project), o medo do setor nem sempre coincide com o que os registros mostram.
O relatório também mantém a divulgação de informações sensíveis entre os principais riscos e aponta a “excessive agency” (agentes com permissões demais) subindo para o 3º lugar. Para times dev/tech, a mensagem é clara: sistemas com LLMs precisam ser desenhados assumindo que entradas podem confundir o modelo (data vs. instrução) e que permissões devem ser limitadas e monitoradas continuamente, já que não existe “fix definitivo” como em falhas clássicas.
O Claude, da Anthropic, está chamando atenção por sua evolução rápida e foco em uso corporativo. A empresa relatou testes em que o sistema conseguiu realizar ataques virtuais a empresas, após um erro de configuração que liberou acesso à internet. Além disso, a Anthropic defende uma pausa no avanço da tecnologia para dar tempo à pesquisa de segurança. No Brasil, o Claude também ganhou tração com recursos como automações e ferramentas voltadas a tarefas e programação.
:quality(85)/5129f764-4d6a-4b53-98b7-31df4ec763b4.jpg)
