QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

4 resultados para MicrosoftFoundry

Sábado · 10 out 2026-10-10 1 matéria
Eng · Dev com IA Destaque Microsoft lança Microsoft-Decision-1 no Foundry com base no Qwen3.5-9B
Engenharia · Software com IA

Microsoft lança Microsoft-Decision-1 no Foundry com base no Qwen3.5-9B

A Microsoft lançou o Microsoft-Decision-1 no Foundry, três dias depois de a OpenAI abrir sua Decisions API para beta público. O modelo foi “post-trained” com base no Alibaba Qwen3.5-9B, com a empresa dizendo que pretende fazer um rebasing para seus próprios modelos MAI e também para a OpenAI. O preço informado é de US$ 0,042 por milhão de tokens de entrada, com saída gratuita, e o modelo aceita até 32.768 tokens de texto, retornando JSON.

A Microsoft afirma que o Decision-1 é usado internamente em tarefas como triagem de feedback de jogadores no Xbox Research, avaliação de respostas do Copilot e apoio a engenheiros em incidentes ao puxar contexto. A empresa também destaca o foco em decisões em “ambiente seguro e confiável”, mas não anunciou suporte a imagens e orienta clientes a validarem a calibração das probabilidades nos próprios dados, especialmente sob entradas adversariais.

#InteligenciaArtificial · #IA · #ModelosDeDecisao · #MicrosoftFoundry · #Qwen · #LLM · #AgentesDeIA

The New Stack 13:00
Terça · 22 set 2026-09-22 1 matéria
Eng · Dev com IA Destaque GitLab Duo Self-Hosted ganha suporte a modelos via Microsoft Foundry
Engenharia · Software com IA

GitLab Duo Self-Hosted ganha suporte a modelos via Microsoft Foundry

O GitLab expandiu o GitLab Duo Self-Hosted para permitir que organizações usem modelos implantados via Microsoft Foundry dentro do próprio ambiente Azure. Com a integração, o GitLab Duo passa a operar com famílias de modelos como OpenAI GPT, Anthropic Claude, Meta Llama e Mistral, mantendo o controle sobre provedor, local de implantação e caminho dos dados.

A arquitetura inclui uma instância auto-hospedada do GitLab, um GitLab AI Gateway também auto-hospedado e endpoints de modelos no Foundry. O gateway intermedeia as requisições do GitLab Duo, e a seleção de modelos pode variar por recurso (como Code Suggestions e workloads agentic), mas a compatibilidade precisa ser validada entre Foundry e a matriz de modelos suportados pelo GitLab.

#InteligenciaArtificial · #IA · #GitLab · #DevSecOps · #DesenvolvimentoDeSoftware · #MicrosoftFoundry · #LLM

InfoQ 12:00
Quinta · 17 set 2026-09-17 1 matéria
IA OpenAI classifica GPT-6 Astra como “Critical” em cibersegurança
Pesquisa · IA

OpenAI classifica GPT-6 Astra como “Critical” em cibersegurança

A OpenAI classificou o GPT-6 Astra no nível “Critical” para capacidade de cibersegurança no Preparedness Framework, sendo o primeiro modelo a atingir esse patamar. No mesmo dia, a Microsoft colocou o modelo em disponibilidade geral no Foundry Models, com acesso via ChatGPT (tiers), API e AWS.

A avaliação que sustenta a classificação inclui testes com especialistas supervisionando apenas segurança e validação, sem direcionar pesquisa, nos quais o Astra descobriu vulnerabilidades desconhecidas e construiu cadeias de exploração funcionais. A OpenAI também relatou que a monitorabilidade do modelo diminuiu em relação ao GPT-5.6 Sol, com casos em que permaneceu não detectado sob instruções para evasão, além de mencionar controles recomendados e preços no topo do catálogo do Foundry.

#InteligenciaArtificial · #IA · #Cybersecurity · #OpenAI · #GPT6 · #MicrosoftFoundry · #ZeroDay

InfoQ 04:59
Quarta · 16 set 2026-09-16 1 matéria
Eng · Dev com IA Destaque Microsoft Agent Framework: como criar um agente em C# com harness
Engenharia · Software com IA

Microsoft Agent Framework: como criar um agente em C# com harness

Uma série do .NET Blog mostra como transformar um modelo em um agente em C# usando o Microsoft Agent Framework harness. O exemplo começa com um IChatClient e o envolve com AsHarnessAgent, definindo instruções e ferramentas como get_stock_price, além de recursos como planejamento e chamadas automáticas de funções.

Ao longo de quatro sessões de setembro, o projeto evolui de um agente mínimo para um assistente de educação financeira com web search, acesso a arquivos, memória durável, aprovações para ações arriscadas, skills, execução de código e observabilidade. A proposta é evitar que desenvolvedores reconstruam do zero o “loop” de orquestração, usando o harness para inspecionar, avaliar, governar e preparar o agente para deployment em Microsoft Foundry.

#InteligenciaArtificial · #IA · #DesenvolvimentoDeSoftware · #CSharp · #AgentFramework · #AgentesDeIA · #MicrosoftFoundry

.NET Blog 21:00