QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para bias em IA

Sexta · 07 ago 2026-08-07 1 matéria
IA ChatTJB: “IA” vira gente respondendo perguntas (e vira arte)
Pesquisa · IA

ChatTJB: “IA” vira gente respondendo perguntas (e vira arte)

O projeto ChatTJB, criado por Tucker Bryant, public speaker e ex-gerente de projetos na Google, usa um “chatbot” que não responde com um modelo de linguagem: ele próprio senta e responde manualmente aos prompts. A iniciativa ganhou tração após um outdoor de US$ 6 mil em São Francisco, que foi ao ar em 27 de julho, e já acumulou mais de 30 mil consultas até 6 de agosto, chegando a picos de cerca de 5 mil mensagens por hora.

Bryant diz que encara o ChatTJB como um projeto de arte e uma reflexão sobre a relação das pessoas com a tecnologia, incluindo o risco de “cognitive surrender” — aceitar respostas de IA sem questionar. Apesar de não ser contra a IA, ele quer provocar leveza e pensamento crítico, enquanto reúne voluntários e mantém a experiência no ar por tempo limitado, com uma opção de apoio mensal via “ChatTJB Pro”.

#inteligenciaartificial · #chatbot · #LLM · #IAgenerativa · #tecnologia · #cognitivebias · #projetoartístico

Wired 10:00
Terça · 04 ago 2026-08-04 1 matéria
IA Explicações de IA na saúde: ajudam — mas podem enganar iniciantes
Pesquisa · IA

Explicações de IA na saúde: ajudam — mas podem enganar iniciantes

Um estudo conduzido por pesquisadores do MIT e parceiros avaliou como diferentes métodos de IA explicável afetam pessoas com níveis distintos de conhecimento na hora de diagnosticar doenças de pele. Os testes incluíram não especialistas e médicos de atenção primária, usando cenários com apenas a previsão do modelo ou com explicações como mapas de calor, imagens semelhantes e explicações em linguagem natural via LLM.

Os resultados mostram que não especialistas melhoraram a acurácia, mas em grande parte por “deferência” ao sistema: quando as explicações vinham de LLM, eles tendiam a confiar mesmo quando a previsão estava errada. Já os clínicos tiveram desempenho melhor quando recebiam apenas a predição, sem explicação, e foram menos afetados por explicações incorretas. A pesquisa reforça que a forma de apresentar a recomendação importa tanto quanto a qualidade do modelo — especialmente para quem tem menos base médica.

#IA na saúde · #medical AI · #explainable AI · #dermatologia · #LLM · #bias em IA

MIT News 09:00
Segunda · 03 ago 2026-08-03 1 matéria
IA Digitando à mão código gerado por IA para evitar “dívida cognitiva”
Pesquisa · IA

Digitando à mão código gerado por IA para evitar “dívida cognitiva”

Um desenvolvedor relata que continua usando assistentes de código com LLMs em projetos pessoais, mas evita deixar o modelo “roam free” e gerar recursos inteiros sem revisão. A proposta é pedir que o LLM escreva o código no chat e, em seguida, digitar manualmente cada linha no editor, fazendo ajustes, refatorações e checagens para entender APIs e algoritmos (ex.: em um projeto Django, incluindo funcionalidades como tagging). Ele afirma que esse fluxo o deixa cerca de 2x mais rápido, porém com ganho de compreensão e menos risco de aceitar código com alucinações ou decisões ruins.

A ideia importa para devs porque troca produtividade imediata por controle e entendimento do que está sendo entregue. Na prática, o time pode usar LLMs para acelerar partes “chatas”, mas mantendo revisão ativa e construindo um “mapa” mental do códigobase — reduzindo a chance de o software ficar opaco demais para manutenção futura.

#inteligenciaartificial · #LLM · #codingassistant · #softwareengineering · #Django · #cognitivebias · #refactoring

Hacker News 09:32