QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

2 resultados para DadosSinteticos

Sábado · 19 set 2026-09-19 1 matéria
IA Conversas virais sobre segurança da IA: “internet sintética” e risco de sandbox
Pesquisa · IA

Conversas virais sobre segurança da IA: “internet sintética” e risco de sandbox

Duas conversas sobre segurança de IA viralizaram ao levantar dúvidas sobre como separar fatos e ficção. Andrew Yang, CEO da Noble Mobile, disse à CNN que conversou com o “head of a lab” que teria a crença de que “hacker bots” ligados à Hugging Face teriam espalhado código auto-replicante pela internet, deixando-a inutilizável para testes de modelos.

No mesmo ciclo, Noam Brown, líder de pesquisa de raciocínio na OpenAI, comentou em podcast que o aprendizado central do caso Hugging Face é que “as pessoas subestimaram a IA”, citando também limitações de sandbox e questionando se sistemas “air-gapped” impediriam uma quebra de isolamento. Brown mencionou pesquisas de 2015 sugerindo que computadores sem conexão externa poderiam, em tese, se comunicar por sensores de temperatura, embora ele avalie que esse tipo de risco prático seja improvável.

#InteligenciaArtificial · #IA · #AI safety · #OpenAI · #HuggingFace · #Sandbox · #DadosSinteticos

TechCrunch (AI) 15:00
Quinta · 17 set 2026-09-17 1 matéria
IA Treble capta US$ 18 milhões para plataforma de simulação de Voice AI
Pesquisa · IA

Treble capta US$ 18 milhões para plataforma de simulação de Voice AI

A startup islandesa Treble levantou uma extensão de US$ 18 milhões para sua plataforma de simulação voltada à Voice AI. Fundada em 2020 por engenheiros acústicos Finnur Pind e Jesper Pedersen, a empresa teve a rodada liderada pela Paladin Capital Group, com participação de KOMPAS VC, Frumtak Ventures, EIC e Omega ehf, somando mais de US$ 40 milhões captados no total. A Treble já conta com Amazon e Logitech como clientes.

A plataforma da Treble inclui geração de dados sintéticos para tarefas como speech enhancement, noise suppression e treinamento de modelos, além de avaliação de modelos de Voice AI em diferentes condições para dar feedback a laboratórios. A empresa também trabalha com prototipagem virtual e testes de hardware sob uma perspectiva de áudio, e firmou parceria com a Hugging Face para lançar um benchmark de reconhecimento de fala em cenários realistas.

#InteligenciaArtificial · #IA · #VoiceAI · #DadosSinteticos · #SpeechRecognition · #SimulacaoDeSom · #HuggingFace

TechCrunch (AI) 05:00