QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

4 resultados para Foundry models

Quinta · 17 set 2026-09-17 1 matéria
IA OpenAI classifica GPT-6 Astra como “Critical” em cibersegurança
Pesquisa · IA

OpenAI classifica GPT-6 Astra como “Critical” em cibersegurança

A OpenAI classificou o GPT-6 Astra no nível “Critical” para capacidade de cibersegurança no Preparedness Framework, sendo o primeiro modelo a atingir esse patamar. No mesmo dia, a Microsoft colocou o modelo em disponibilidade geral no Foundry Models, com acesso via ChatGPT (tiers), API e AWS.

A avaliação que sustenta a classificação inclui testes com especialistas supervisionando apenas segurança e validação, sem direcionar pesquisa, nos quais o Astra descobriu vulnerabilidades desconhecidas e construiu cadeias de exploração funcionais. A OpenAI também relatou que a monitorabilidade do modelo diminuiu em relação ao GPT-5.6 Sol, com casos em que permaneceu não detectado sob instruções para evasão, além de mencionar controles recomendados e preços no topo do catálogo do Foundry.

#InteligenciaArtificial · #IA · #Cybersecurity · #OpenAI · #GPT6 · #MicrosoftFoundry · #ZeroDay

InfoQ 04:59
Quarta · 09 set 2026-09-09 1 matéria
IA Samsung firma parceria com a Mistral para IA on-premises em semicondutores
Pesquisa · IA

Samsung firma parceria com a Mistral para IA on-premises em semicondutores

A Samsung fechou parceria com a Mistral AI para implantar modelos de IA on-premises em suas operações de fabricação e engenharia de semicondutores. O acordo foi anunciado durante a cúpula bilateral entre Coreia do Sul e França, em Paris, e prevê a integração da suíte de software da Mistral, incluindo o modelo Mistral Large, em instalações internas para criar modelos personalizados voltados à infraestrutura de fábrica orientada por inteligência artificial.

A estratégia usa instalações privadas para processar registros sensíveis de engenharia e operação dentro do perímetro de computação da empresa, reduzindo exposição a nuvem externa. A Samsung também planeja aplicar modelos direcionados em detecção automatizada de defeitos e no ajuste de máquinas da fab, com foco em acelerar ciclos de desenvolvimento, aumentar precisão e estabilizar rendimentos em chips de memória e lógica, além de atender unidades de memória, design lógico e foundry contratada.

#InteligenciaArtificial · #IA · #MistralAI · #Samsung · #Semiconductors · #OnPremises · #IAgenerativa

AI News 08:52
Segunda · 31 ago 2026-08-31 1 matéria
Eng · Dev com IA Destaque Microsoft amplia Model Router do Foundry para 28 regiões e atualiza pool
Engenharia · Software com IA

Microsoft amplia Model Router do Foundry para 28 regiões e atualiza pool

A Microsoft expandiu o Foundry Model Router, que antes operava apenas em East US 2 e Sweden Central, para 28 regiões em implantações padrão globais e para 21 regiões em implantações por data zone. A atualização também renovou o pool de modelos que o roteador pode selecionar, com entrada de Anthropic Claude Opus 4.8 e da família GPT-5.6.

Com a mudança, modelos como gpt-5-chat, gpt-5.2-chat, gpt-5.3-chat e DeepSeek-V3.1 deixaram de integrar o pool por terem chegado ao fim de vida. Em configurações padrão, as atualizações passam a ocorrer automaticamente sem necessidade de redeploy, mas equipes que restringiram um subconjunto de modelos podem ficar protegidas da renovação; a Microsoft ainda destaca que a estabilidade do endpoint não garante estabilidade comportamental das respostas.

#InteligenciaArtificial · #IA · #MicrosoftAzure · #ModelRouter · #FoundryModels · #LLM · #AgentesDeIA

InfoQ 10:18
Sexta · 07 ago 2026-08-07 1 matéria
Eng · Dev com IA Destaque Azure APIM ganha AI Gateway: governança de modelos e MCP
Engenharia · Software com IA

Azure APIM ganha AI Gateway: governança de modelos e MCP

A Microsoft lançou em prévia pública um novo tier de AI Gateway no Azure API Management. A proposta é organizar o control plane em torno de modelos, servidores e ferramentas MCP, em vez de APIs, mantendo capacidades de IA já existentes nos tiers clássico e v2. O gateway publica modelos hospedados pela Foundry (como OpenAI, Anthropic e Mistral) e também integra modelos de AWS Bedrock, Google Vertex AI e OpenAI; para provedores compatíveis com OpenAI, o roteamento ocorre por correspondência exata do campo “model”, exigindo nomes únicos. Para ferramentas, ele federará backends via URL de servidor MCP, especificação OpenAPI ou conectores embutidos para mais de mil SaaS, expondo operações como “tools” com autenticação configurável (nenhuma, API key, OAuth 2.0 ou managed identity).

O que muda para times de desenvolvimento é a forma de “colocar em produção” integrações com LLMs e agentes: políticas deixam de ser só XML/expressões e passam a ser configuradas em cards no portal, com limites de tokens e requisições, quotas, Content Safety e fallback de modelo. A governança de custo e uso pode ficar centralizada no gateway, com telemetria via OpenTelemetry para destinos como Application Insights, Datadog e Grafana, mas a prévia também levanta dúvidas sobre limites, SLA (sem SLA) e como lidar com o ciclo de vida quando execuções de agentes não finalizam corretamente.

#Azure API Management · #AI Gateway · #MCP · #LLM governance · #OpenTelemetry · #Foundry models

InfoQ 06:35
Abrir Ler matéria ↗ ✓ Postado no IG