QUI · 15 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para CI/CD

Segunda · 28 set 2026-09-28 1 matéria
Gestão com IA Destaque Relatório GitHub e Yale: 70% dos devs querem mais ação contra impacto climático da IA
Gestão · Software com IA

Relatório GitHub e Yale: 70% dos devs querem mais ação contra impacto climático da IA

63% dos desenvolvedores dizem que sistemas de IA contribuem para as mudanças climáticas, e 70% afirmam que empresas de tecnologia e empregadores precisam fazer mais para reduzir o impacto ambiental, segundo um relatório conjunto do GitHub e do Yale Program on Climate Change Communication (YPCCC). A pesquisa ouviu 1.039 usuários ativos mensais do GitHub nos EUA sobre clima, impacto ambiental da IA e práticas de engenharia de software sustentável.

O estudo aponta que muitos veem ineficiências em modelos e em softwares “indesejados” como fontes de desperdício, além de pedirem mais transparência sobre consumo de energia. Entre os entrevistados, 80% querem ferramentas para escrever código mais eficiente, com recomendações como medir o consumo de energia de ferramentas de IA, incluir escores de eficiência energética em projetos e revisar etapas de CI/CD que usam computação desnecessária.

#InteligenciaArtificial · #IA · #Sustentabilidade · #SoftwareSustentavel · #EngenhariaDeSoftware · #DevOps · #GreenAI

LeadDev 07:23
Quarta · 09 set 2026-09-09 1 matéria
Eng · Dev com IA Destaque AWS leva testes de regressão de agentes de IA ao GitHub Actions
Engenharia · Software com IA

AWS leva testes de regressão de agentes de IA ao GitHub Actions

A AWS publicou uma implementação de referência para testar agentes de IA via GitHub Actions, permitindo que desenvolvedores rodem avaliações automatizadas dentro de pipelines de CI/CD. O fluxo pode falhar uma etapa de avaliação quando as pontuações do agente ficarem abaixo de um limite configurado, impedindo o merge ao configurar o job como check obrigatório.

A solução usa Amazon Bedrock AgentCore Evaluations para avaliar o agente após mudanças no código, no system prompt, no modelo ou na configuração de ferramentas. No exemplo, a AWS implanta o agente em um ambiente de desenvolvimento, o invoca com prompts de teste, analisa traces via OpenTelemetry/CloudWatch e aplica avaliadores como GoalSuccessRate, Correctness, ToolSelectionAccuracy e ToolParameterAccuracy, com limiar de 0,8 para reprovar resultados.

#InteligenciaArtificial · #IA · #AgentesDeIA · #DevOps · #GitHubActions · #CI_CD · #AWSBedrock

Developer Tech News 09:00
Terça · 04 ago 2026-08-04 1 matéria
Eng · Dev com IA Destaque Codex vai além do laptop: OpenAI mira “workspace” na nuvem
Engenharia · Software com IA

Codex vai além do laptop: OpenAI mira “workspace” na nuvem

O líder de produtos da OpenAI, Thibault Sottiaux, afirmou que o Codex atual vai parecer “primitivo” em 2 a 3 meses, apontando para uma nova evolução no uso de IA no “frontier”. A empresa já vem acelerando o produto e trabalha para expandir o Codex além de tarefas restritas ao computador do desenvolvedor.

Nesse contexto, a OpenAI anunciou planos de comprar a Ona (ex-Gitpod), que cria ambientes cloud com ferramentas e dependências por projeto. A ideia é permitir que agentes tenham workspaces persistentes na nuvem, continuando o trabalho mesmo com o laptop offline, com foco em segurança e controle do acesso por parte do cliente — mas exigindo também novas camadas de gestão de identidade, permissões e integração com CI/CD.

#OpenAI · #Codex · #AI coding agents · #cloud development · #CI/CD · #devtools

The New Stack 18:30