QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

4 resultados para TreinamentoDeIA

Terça · 22 set 2026-09-22 1 matéria
IA Contratados da OpenAI são demitidos por usar IA para treinar modelos
Pesquisa · IA

Contratados da OpenAI são demitidos por usar IA para treinar modelos

A 404 Media relata que contratados que ajudam a melhorar modelos da OpenAI foram demitidos por usar IA para realizar tarefas ligadas ao treinamento. Segundo a apuração, alguns revisores teriam usado respostas geradas por IA para contribuir com o trabalho, apesar de haver orientações internas para não usar ferramentas desse tipo.

Os documentos citados pela reportagem indicam regras como não usar detectores de IA e não recorrer a modelos como GPTZero, além de evitar uso de IA para revisar, escrever feedback ou comentários. A OpenAI não comentou o caso, e a matéria também menciona que a Mercor, empresa que contrata parte desses profissionais, diz que remove especialistas do projeto quando confirma uso indevido de LLMs.

#InteligenciaArtificial · #IA · #OpenAI · #LLM · #TreinamentoDeIA · #Contratados · #RiscosDeIA

Hacker News 13:27
Terça · 01 set 2026-09-01 1 matéria
IA Destaque AfterQuery vira “unicorn” de US$ 3,2 bi após rodada em 5 meses
Pesquisa · IA

AfterQuery vira “unicorn” de US$ 3,2 bi após rodada em 5 meses

A startup de dados para treinamento de IA AfterQuery levantou uma rodada que a avaliou em US$ 3,2 bilhões, segundo relatos. O movimento acontece apenas cinco meses depois de a empresa anunciar sua Série A de US$ 30 milhões, em abril, com valuation de US$ 300 milhões.

O salto representa mais de 10x em menos de meio ano e, de acordo com o parceiro da Y Combinator Gustaf Alströmer, é o caminho mais rápido de lançamento a “unicorn” na história do programa. A AfterQuery, fundada por criadores de 22 e 23 anos, participou do Winter 2025 da aceleradora e afirma trabalhar com grandes labs, incluindo Nvidia, Legora e a Motif Technologies, além de treinar modelos e agentes para executar tarefas como profissionais.

#InteligenciaArtificial · #IA · #TreinamentoDeIA · #DadosDeTreinamento · #StartupsDeIA · #YCombinator · #IAgenerativa

TechCrunch (AI) 22:08
Sábado · 29 ago 2026-08-29 1 matéria
IA Destaque Sony e Warner processam a Anthropic por uso de obras para treinar o Claude
Pesquisa · IA

Sony e Warner processam a Anthropic por uso de obras para treinar o Claude

Sony Music e Warner Music entraram com uma ação judicial conjunta contra a Anthropic, acusando a startup de IA de realizar “roubos contínuos” de propriedade intelectual. A denúncia afirma que a empresa teria feito torrenting ilegal, scraping e downloads em larga escala de obras protegidas para treinar seus modelos de inteligência artificial Claude.

O processo pede indenizações de até US$ 150 mil por cada obra infringida e US$ 25 mil por cada instância em que a Anthropic teria removido informações de gestão de direitos autorais, com valor total que pode chegar a bilhões de dólares. A ação também cita a coleta de “milhares de composições” para treinamento e destaca que a Anthropic não se pronunciou oficialmente até o momento.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #DireitosAutorais · #TreinamentoDeIA · #Scraping

Olhar Digital 20:30
Sábado · 15 ago 2026-08-15 1 matéria
IA Destaque Sebos relatam megacompra de romances para treinar IA e destruir livros
Pesquisa · IA

Sebos relatam megacompra de romances para treinar IA e destruir livros

Livreiros independentes no Reino Unido e em outros países relataram um padrão incomum: grandes quantidades de romances de sebos estão sendo compradas e enviadas para armazéns distantes, inclusive com pedidos que, em uma semana típica, superam o volume de vendas de meses. Stuart Manley, da Barter Books, afirmou que nunca viu nada parecido em 30 anos no ramo de livros usados.

Em 2025, um juiz decidiu que o uso de livros adquiridos dessa forma para treinar softwares de IA não violava a lei de direitos autorais americana, no caso movido por autores contra a Anthropic. Documentos do processo indicaram que livros foram destruídos durante o treinamento do chatbot Claude e que a iniciativa era chamada internamente de “Projeto Panamá”, descrita como digitalização em escala industrial com descarte dos restos.

#InteligenciaArtificial · #IAgenerativa · #Anthropic · #Claude · #DireitosAutorais · #TreinamentoDeIA · #LivrosUsados

G1 Tecnologia 17:38