QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

4 resultados para DadosDeTreinamento

Segunda · 28 set 2026-09-28 1 matéria
IA Startup usa dados de jogos para treinar “world models” de IA
Pesquisa · IA

Startup usa dados de jogos para treinar “world models” de IA

Uma startup britânica chamada Worldmodeldata quer transformar dados de videogames em conjuntos de treinamento para “world models”, modelos de IA voltados a aprender física e relações de causa e consequência no mundo real. A proposta é usar entradas de controle e dados coletados por estúdios, explorando a grande quantidade de experiências disponíveis em jogos 3D para suprir a falta de dados adequados para esse tipo de treinamento.

A empresa afirma ter licenciado quase 1 milhão de horas de dados de estúdios por trás de jogos populares e também planeja criar caminhos para remunerar jogadores no futuro. Apesar do objetivo, há cautela: a Nvidia e pesquisadores apontam que a física dos jogos pode ser “grosseira” e que dados de jogos podem não funcionar tão bem em tarefas que exigem controle motor fino, como manipulação cuidadosa de objetos.

#InteligenciaArtificial · #IA · #WorldModels · #DadosDeTreinamento · #VideoGames · #IAgenerativa · #Robótica

Wired 09:00
Sexta · 11 set 2026-09-11 1 matéria
IA Destaque Mecka AI busca valuation de US$ 500 milhões em rodada liderada pela Sequoia
Pesquisa · IA

Mecka AI busca valuation de US$ 500 milhões em rodada liderada pela Sequoia

A Mecka AI, startup que coleta e analisa dados de movimento humano para treinar robôs humanoides e outras soluções de robótica, está perto de uma nova rodada liderada pela Sequoia Capital, com valuation de cerca de US$ 500 milhões, segundo duas pessoas com conhecimento do acordo. O financiamento chega apenas três meses depois de a empresa anunciar uma captação de US$ 60 milhões liderada pela Framework Ventures, com participação de Menlo Ventures, SV Angel e Kindred Ventures.

O tamanho exato da nova rodada ainda não foi divulgado, e os termos podem mudar. A Mecka foi fundada em 2024 por quatro empreendedores e usa sensores corporais e smartphones para registrar pessoas realizando tarefas do dia a dia, como preparar café ou consertar carros, com o objetivo de suprir a falta de dados do mundo físico para robôs de uso geral.

#InteligenciaArtificial · #IA · #Robótica · #Humanoides · #DadosDeTreinamento · #SequoiaCapital · #IAgenerativa

TechCrunch (AI) 22:58
Terça · 01 set 2026-09-01 1 matéria
IA Destaque AfterQuery vira “unicorn” de US$ 3,2 bi após rodada em 5 meses
Pesquisa · IA

AfterQuery vira “unicorn” de US$ 3,2 bi após rodada em 5 meses

A startup de dados para treinamento de IA AfterQuery levantou uma rodada que a avaliou em US$ 3,2 bilhões, segundo relatos. O movimento acontece apenas cinco meses depois de a empresa anunciar sua Série A de US$ 30 milhões, em abril, com valuation de US$ 300 milhões.

O salto representa mais de 10x em menos de meio ano e, de acordo com o parceiro da Y Combinator Gustaf Alströmer, é o caminho mais rápido de lançamento a “unicorn” na história do programa. A AfterQuery, fundada por criadores de 22 e 23 anos, participou do Winter 2025 da aceleradora e afirma trabalhar com grandes labs, incluindo Nvidia, Legora e a Motif Technologies, além de treinar modelos e agentes para executar tarefas como profissionais.

#InteligenciaArtificial · #IA · #TreinamentoDeIA · #DadosDeTreinamento · #StartupsDeIA · #YCombinator · #IAgenerativa

TechCrunch (AI) 22:08
Terça · 18 ago 2026-08-18 1 matéria
IA Pesquisadores criam observatório para medir uso real de IA por pessoas
Pesquisa · IA

Pesquisadores criam observatório para medir uso real de IA por pessoas

Pesquisadores lançaram o AI Observatory, uma plataforma pública que agrega e analisa conversas reais com modelos como Claude e Gemini para entender como as pessoas usam IA generativa. O projeto foi criado por pesquisadores da Stanford e de outras instituições e utiliza dados coletados com consentimento de usuários em sete datasets existentes, cobrindo interações entre 2023 e 2025.

O observatório aponta que o uso varia bastante entre modelos e muda ao longo do tempo, além de revelar mais comportamentos sensíveis do que costumam aparecer em relatórios publicados por empresas. Ao aplicar métodos do Anthropic Economic Index, o grupo estimou que cerca de 48% das conversas não relacionadas ao trabalho seriam filtradas, incluindo temas como saúde, relacionamentos, assédio e conteúdo sexual, enquanto também encontrou diferenças de comportamento entre versões de um mesmo modelo e padrões como aumento de “small talk” e mudanças na autodescrição do assistente.

#InteligenciaArtificial · #IAgenerativa · #ChatGPT · #Claude · #Gemini · #PesquisaEmIA · #DadosDeTreinamento

MIT Technology Review 10:06