QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para open standards

Terça · 29 set 2026-09-29 1 matéria
Eng · Dev com IA Destaque LangGrant lança iniciativa open source para padronizar “reasoning” seguro na empresa
Engenharia · Software com IA

LangGrant lança iniciativa open source para padronizar “reasoning” seguro na empresa

A LangGrant, antes conhecida como Windocks, anunciou a Enterprise Reasoning Initiative, um projeto open source apoiado por 10 inovadores do ecossistema de IA. A iniciativa busca criar um padrão aberto de interoperabilidade para permitir que a expertise humana permaneça parte do raciocínio usado por sistemas de IA em decisões e ações com impacto no ambiente corporativo.

O projeto propõe uma representação comum do raciocínio, incluindo fontes, etapas, evidências, contribuições de humanos e de IA, políticas, versões e aprovações, para que equipes possam revisar, modificar, reexecutar e reutilizar esse raciocínio ao longo do tempo. A Enterprise Reasoning também mira melhorar segurança, transparência e disponibilidade do “reasoning”, além de torná-lo reutilizável e gerenciável, com suporte inicial de empresas como Almaden AI e Causal Dynamic Labs.

#InteligenciaArtificial · #IA · #OpenSource · #PadroesAbertos · #AgentesDeIA · #Interoperabilidade · #SegurancaEmIA

SD Times 16:53
Sábado · 22 ago 2026-08-22 1 matéria
IA Estudo aponta falta de planos de contenção para “modelos rogue” em grandes labs
Pesquisa · IA

Estudo aponta falta de planos de contenção para “modelos rogue” em grandes labs

Uma pesquisa da Guidelight AI Standards avaliou cinco grandes laboratórios de IA sobre como responderiam a um “modelo rogue” tentando subverter o controle humano. A organização define plano de contenção como um roteiro pré-determinado para revogar permissões, impor restrições e, se necessário, desligar totalmente o sistema. OpenAI ficou em primeiro lugar, enquanto Anthropic e Meta tiveram as piores notas.

O levantamento analisou planos públicos de Anthropic, Google, OpenAI, Meta e xAI, incluindo monitoramento do que os sistemas fazem internamente, ações após comportamentos suspeitos e auditorias por terceiros. O debate ganha força com incidentes de segurança em avaliações de segurança e com novas exigências regulatórias na Califórnia e em Nova York, além de um projeto federal que busca impor mecanismos técnicos para desligar modelos perigosos.

#InteligenciaArtificial · #IA · #SegurancaDeIA · #RiscoOperacional · #AgentesDeIA · #RegulacaoDeIA

TechCrunch (AI) 16:00
Sábado · 08 ago 2026-08-08 1 matéria
Eng · Dev com IA Destaque OpenAI, GitHub e mais: padrão aberto de plugins para agentes IA
Engenharia · Software com IA

OpenAI, GitHub e mais: padrão aberto de plugins para agentes IA

OpenAI, AWS, Cursor, GitHub e Microsoft apoiaram o Agent Plugins 1.0.0, um formato portátil para empacotar e distribuir componentes que estendem agentes de IA. A proposta foi iniciada pela Vercel, que publicou as especificações e detalhou o lançamento. O padrão organiza “Agent Skills” e servidores MCP em plugins com estrutura e manifestos padronizados, para que diferentes clientes (como editores e runtimes) descubram e carreguem capacidades de forma mais consistente.

Para devs, isso pode reduzir retrabalho: integrações e habilidades podem ser reutilizadas entre ambientes com menos variações de empacotamento. Ao mesmo tempo, especialistas alertam que interoperabilidade sem governança e controle de permissões pode aumentar riscos, já que políticas e segurança ficam a cargo do cliente que executa o plugin. Na prática, o padrão tende a acelerar a adoção corporativa ao diminuir atrito, mas exige atenção redobrada a identidade, acesso e visibilidade operacional.

#AgentPlugins · #AI agents · #MCP · #open standards · #developer tools · #interoperabilidade

The New Stack 13:50