QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para metrics

Segunda · 12 out 2026-10-12 1 matéria
Gestão com IA Destaque Estratégia de engenharia com IA: quando a entrega trava apesar do mais código
Gestão · Software com IA

Estratégia de engenharia com IA: quando a entrega trava apesar do mais código

Um líder de engenharia aprovou um plano para contratar cinco engenheiros, investir em uma plataforma interna de IA e reorganizar duas equipes para acelerar a entrega de software. Seis meses depois, os desenvolvedores passaram a produzir mais código, mas a velocidade de entrega não aumentou: revisões de pull requests demoraram mais, filas de CI cresceram e a segurança precisou verificar mais mudanças.

O problema, segundo o texto, não é necessariamente falha no plano original, e sim o fato de a estratégia ter sido construída sobre um modelo de entrega que a IA alterou. A orientação é revisar “apostas longas” com frequência, alinhar métricas com evidências e criar sinais para detectar quando as condições que sustentavam a decisão deixam de valer.

#InteligenciaArtificial · #IA · #gestaoDeProjetos · #engenhariaDeSoftware · #entregaDeSoftware · #metrics · #DevOps

LeadDev 07:29
Abrir Ler matéria ↗ ✓ Postado no IG
Domingo · 20 set 2026-09-20 1 matéria
Eng · Dev com IA Destaque Kubernetes 1.37 “Garhwal” traz Metrics API e suporte a rootless kubelet
Engenharia · Software com IA

Kubernetes 1.37 “Garhwal” traz Metrics API e suporte a rootless kubelet

A Cloud Native Computing Foundation (CNCF) lançou o Kubernetes 1.37, chamado “Garhwal”, com foco em estabilidade, segurança e otimização de workloads de IA/ML. A versão inclui a disponibilidade geral da Metrics API (metrics.k8s.io), que padroniza a monitoração de saúde de nós e pods e habilita recursos como Horizontal Pod Autoscaler (HPA), Vertical Pod Autoscaler (VPA) e o comando kubectl top.

Entre as novidades, o kubelet ganha recurso de checkpoint e restore no nível do pod, permitindo criar um snapshot de memória e árvores de processos para depuração ou análise de segurança. O lançamento também evolui para beta o Kubelet em namespace de usuário (rootless), com componentes do nó rodando como não-root via user namespaces para reduzir impacto de ataques de escape de contêiner, além de melhorias como inicialização resiliente do watchcache e certificados de pods em modo estável.

#Kubernetes · #CloudNative · #DevOps · #MetricsAPI · #HPA · #RootlessKubelet · #IAeML

InfoQ 01:00
Quarta · 09 set 2026-09-09 1 matéria
IA IA de recrutamento: um “não” pode te eliminar em todas as vagas
Pesquisa · IA

IA de recrutamento: um “não” pode te eliminar em todas as vagas

Nove em cada dez empresas americanas já usam inteligência artificial para triar candidatos, e um estudo da Universidade Stanford, com Chapman e Northeastern, aponta um efeito que pode atingir quem busca emprego: ser reprovado por uma IA em uma vaga aumenta a chance de ser reprovado nas outras vagas que usam o mesmo sistema. A pesquisa “Algorithmic Monocultures in Hiring” analisou mais de 4 milhões de candidaturas enviadas por cerca de 3,4 milhões de pessoas a 156 empregadores que usam a plataforma de triagem Pymetrics, adquirida pela Harver em 2022.

O trabalho descreve o cenário como “monocultura algorítmica”, em que vieses e limitações do algoritmo se espalham entre empresas diferentes que recorrem ao mesmo fornecedor. Entre candidatos que se inscreveram em dez vagas triadas pela Pymetrics, 4% foram reprovados em todas elas, e o estudo também identificou disparidade racial nos resultados usando a regra dos quatro quintos, com diferenças que variam por tipo de vaga.

#InteligenciaArtificial · #IA · #Recrutamento · #ViesesDeIA · #Stanford · #Pymetrics · #MercadoDeTrabalho

Exame 05:45