QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para TestesAutomatizados

Domingo · 11 out 2026-10-11 1 matéria
Eng · Dev com IA Destaque Gremlin lança Foresight AI, agentes para testar falhas e validar correções
Engenharia · Software com IA

Gremlin lança Foresight AI, agentes para testar falhas e validar correções

A Gremlin anunciou a disponibilidade geral do Foresight AI, um produto com agentes que analisa serviços em busca de falhas, recomenda mudanças e reexecuta testes para verificar se a correção realmente funciona. O recurso funciona como um add-on da plataforma Gremlin, que também permite rodar experimentos planejados, controlar o “blast radius” e usar testes automatizados para manter correções eficazes ao longo do tempo.

O Foresight AI organiza o trabalho em quatro papéis de agentes: um Analyst coleta dados e sugere testes, um Tester agenda e executa, um Operator interpreta falhas e propõe remediações, e um Technical Program Manager acompanha cobertura, riscos e compromissos entre equipes, gerando relatórios e atualizações no Slack. As recomendações se baseiam no Failure Atlas da Gremlin, e o produto mantém um “loop” de validação fechada: ele não executa testes nem aplica remediações sem aprovação, preservando a responsabilidade humana enquanto automatiza análise e repetição.

#InteligenciaArtificial · #IA · #AgentesDeIA · #SRE · #ReliabilityEngineering · #TestesAutomatizados · #FaultInjection

InfoQ 09:00
Quinta · 01 out 2026-10-01 1 matéria
Eng · Dev com IA Destaque Leapwork Play lança plataforma de validação contínua para testes Playwright
Engenharia · Software com IA

Leapwork Play lança plataforma de validação contínua para testes Playwright

A Leapwork lançou o Leapwork Play, uma plataforma de validação contínua “AI-native” voltada para construir, executar e gerenciar suítes de testes em Playwright em escala. A empresa destaca que a popularidade do Playwright cresceu junto com o uso de código gerado por IA, mas que isso elevou o volume de testes e tornou mais difícil provar a origem de cada caso e gerenciar milhares deles entre várias equipes.

O Leapwork Play conecta o Play a fontes onde o conhecimento do produto já vive, como Jira, repositórios Git e documentação, para gerar testes Playwright baseados nesse contexto. A ferramenta também permite registrar uma jornada do usuário no navegador e transformar isso em um teste mantido, com saída em código Playwright padrão para rodar no Play, em pipelines de CI ou via servidor MCP de assistentes de código com IA.

#InteligenciaArtificial · #IA · #Playwright · #TestesAutomatizados · #ContinuousValidation · #DevTools · #MCP

SD Times 17:57
Domingo · 09 ago 2026-08-09 1 matéria
Eng · Dev com IA Destaque Como avaliar coding agents: testes, contratos e camadas além da taxa de acerto
Engenharia · Software com IA

Como avaliar coding agents: testes, contratos e camadas além da taxa de acerto

O artigo discute como avaliar coding agents, respondendo a uma divergência com uma “software factory” que defendia que esses agentes não poderiam ser avaliados. O texto argumenta que o agente não é apenas um modelo: o resultado depende do conjunto modelo + harness + ferramentas + contexto do repositório + instruções + permissões + ambiente de execução e do loop de feedback. Por isso, benchmarks públicos podem medir combinações específicas e não apenas o modelo subjacente.

A avaliação, segundo o autor, deve ir além de “passou nos testes”, incluindo checagens como build, testes públicos e hidden, compatibilidade de APIs e formatos, migrações, limites de desempenho e segurança, além de verificar alterações fora do escopo permitido. Também é necessário repetir execuções para lidar com não determinismo e usar camadas como qualidade da mudança, trajetória, intervenção humana, custo e impacto em produção, porque um único número não captura tudo.

#InteligenciaArtificial · #IA · #CodingAgents · #AvaliacaoDeIA · #EngenhariaDeSoftware · #TestesAutomatizados · #Benchmarks

The New Stack 15:00