QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para VoiceAgents

Quarta · 23 set 2026-09-23 1 matéria
IA NVIDIA Nemotron 3 Diarization: modelo open-weight com até 8 falantes
Pesquisa · IA

NVIDIA Nemotron 3 Diarization: modelo open-weight com até 8 falantes

A NVIDIA lançou o Nemotron 3 Diarization, um modelo open-weight com 100M de parâmetros para diarização de fala em tempo real e em gravações. Ele transforma conversas com sobreposição em dados com identificação de quem falou e quando, permitindo gerar transcrições atribuídas por participante.

O modelo alcançou o 1º lugar no VoiceArena Diarization-Bench, com 14,72% de Diarization Error Rate (DER), e suporta até oito falantes. Também foi treinado com dados públicos e licenciados, incluindo áudio licenciado da David AI, e usa processamento em blocos com opções de latência customizáveis para cenários streaming e offline.

#InteligenciaArtificial · #IA · #NVIDIA · #DiarizacaoDeFala · #ASR · #VoiceAgents · #LLM

Hugging Face Blog 13:17
Terça · 15 set 2026-09-15 1 matéria
Eng · Dev com IA Destaque Gemini 3.8 Live e GPT-Live-1 atacam a latência de agentes de voz
Engenharia · Software com IA

Gemini 3.8 Live e GPT-Live-1 atacam a latência de agentes de voz

Agentes de voz enfrentam um problema de latência quando precisam executar tarefas reais, e Google e OpenAI lançaram soluções diferentes em poucos dias. A Google colocou no ar o Gemini 3.8 Live e o Gemini 3.8 Live Extended Thinking via Gemini API e Google AI Studio, enquanto a OpenAI lançou o GPT-Live-1 para manter a conversa em tempo real enquanto o trabalho acontece em segundo plano.

No Gemini 3.8 Live Extended Thinking, fala, raciocínio e execução de ferramentas ficam dentro de uma mesma sessão com chamadas assíncronas não bloqueantes, permitindo que o modelo continue falando. Já o GPT-Live-1 separa a conversa do raciocínio e das tool calls em uma camada de backend, exigindo mais orquestração na aplicação para coordenar contexto e lidar com interrupções, além de impactar custos e cobrança por minuto.

#InteligenciaArtificial · #IA · #AgentesDeIA · #VoiceAgents · #Latencia · #LLM · #DesenvolvimentoDeSoftware

The New Stack 21:50
Segunda · 17 ago 2026-08-17 1 matéria
Eng · Dev com IA Destaque Claude ganha ações para inspecionar e até deletar agentes de voz no chat
Engenharia · Software com IA

Claude ganha ações para inspecionar e até deletar agentes de voz no chat

O ElevenLabs lançou um conector hospedado MCP que permite ao Claude ler e escrever em chat agents criados com ElevenAgents, sem que o desenvolvedor precise abrir o dashboard. Com isso, é possível pedir inspeção do agente em produção, revisar o system prompt, trocar a voz e até estimar custos de uso de modelos antes de aplicar mudanças.

O conector também substitui chaves de API locais por OAuth, limitando o acesso ao workspace e às permissões aprovadas no login. Segundo a ElevenLabs, o Claude pode atualizar prompt, voz e mensagem de abertura, buscar transcrições, analisar tópicos e até deletar um agente, o que torna necessário controle de acesso e testes para simular conversas antes do deploy.

#InteligenciaArtificial · #IA · #AgentesDeIA · #Claude · #ElevenLabs · #MCP · #VoiceAgents

The New Stack 19:51