QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

7 resultados para SegurancaNacional

Sexta · 25 set 2026-09-25 2 matérias
IA Justiça dos EUA mantém bloqueio à Anthropic em contratos militares
Pesquisa · IA

Justiça dos EUA mantém bloqueio à Anthropic em contratos militares

A Justiça dos Estados Unidos decidiu que a Anthropic continuará impedida de fechar contratos militares com o governo americano. A empresa também seguirá sendo tratada pelo Departamento de Defesa como um risco à segurança nacional, após meses de disputa judicial sobre o uso de seus modelos de IA pelo setor de Defesa.

A decisão foi tomada por um tribunal federal de apelações depois que a startup contestou a classificação feita pelo Pentágono. Com isso, órgãos ligados à Defesa ficam mais limitados para contratar a empresa ou usar seus serviços, em um contexto de possível IPO e de debates internacionais sobre os riscos de sistemas de IA mais poderosos.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #SegurancaNacional · #DefesaEUA

G1 Tecnologia 17:00
IA Tribunal de apelações mantém rótulo de risco na cadeia da Anthropic
Pesquisa · IA

Tribunal de apelações mantém rótulo de risco na cadeia da Anthropic

Uma corte federal de apelações em Washington, DC, recusou reverter a decisão do governo dos EUA que classificou a Anthropic como risco na cadeia de suprimentos para o Departamento de Defesa. Os juízes afirmaram que a integração contínua do modelo Claude aos sistemas de informação do órgão, por ele ou por contratados, representa um risco de segurança nacional coberto por lei, e destacaram que o próprio Claude inclui restrições para impedir tarefas que a Anthropic não quer permitir.

A decisão mantém, de forma indefinida, um dos rótulos que sustenta o bloqueio do Pentágono à Claude, após a empresa ter perdido uma batalha judicial para derrubar a medida. A Anthropic disse que segue confiante e avalia opções, incluindo recorrer a um painel mais amplo ou à Suprema Corte, enquanto o Pentágono não detalhou como está substituindo o Claude por alternativas como Grok, Gemini e GPT.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #Pentagono · #segurancanacional · #regulacaoIA

Wired 16:58
Segunda · 21 set 2026-09-21 1 matéria
IA Destaque EUA e China discutem mecanismo para notificar incidentes de IA ligados à segurança
Pesquisa · IA

EUA e China discutem mecanismo para notificar incidentes de IA ligados à segurança

EUA e China começaram conversas para propor um mecanismo de notificação mútua sobre incidentes de inteligência artificial que possam ameaçar a segurança nacional. O plano, chamado US China AI Dialogue, prevê que representantes dos dois países voltem a se reunir para discutir a tecnologia e alinhar metas e ameaças comuns, segundo o secretário do Tesouro dos EUA, Scott Bessent.

Bessent disse que o diálogo retomou conversas interrompidas após a visita do presidente Donald Trump a Pequim, em maio, enquanto crescem preocupações de segurança pública. Ele citou incidentes recentes no setor, como ataques envolvendo agentes de IA que exploraram falhas de salvaguardas, e mencionou que as discussões não trataram de controles de exportação de chips avançados para a China, apesar de os EUA buscarem limitar o avanço tecnológico do país.

#InteligenciaArtificial · #IA · #SegurancaNacional · #EUAeChina · #GovernancaDeIA · #RiscosDeIA

Wired 10:34
Abrir Ler matéria ↗ ✓ Postado no IG
Segunda · 14 set 2026-09-14 1 matéria
IA Chefe de espionagem da China alerta: IA pode ameaçar segurança política
Pesquisa · IA

Chefe de espionagem da China alerta: IA pode ameaçar segurança política

Chen Yixin, ministro da Segurança do Estado da China, alertou que o uso indevido de inteligência artificial pode ameaçar a segurança política, institucional e ideológica do país. Em texto publicado na revista oficial China Cyberspace, ele citou riscos como “guerra de opinião pública” e “guerra cognitiva”, além de deepfakes, conteúdos e bots em redes sociais capazes de fabricar rumores e incitar divisões.

O ministro também mencionou o avanço da IA para descobrir falhas em sistemas e criar malware, e disse que países com vantagem tecnológica poderiam usar a justificativa de segurança nacional para impor controles e “monopolizar” padrões da indústria. O porta-voz do Ministério das Relações Exteriores, Guo Jiakun, defendeu um desenvolvimento “aberto, inclusivo, universalmente benéfico e ético”, e o tema deve entrar na pauta da cúpula entre Trump e Xi Jinping em 24 de setembro.

#InteligenciaArtificial · #IA · #Deepfakes · #Ciberseguranca · #GuerraCognitiva · #SegurancaNacional · #China

Exame 07:59
Sexta · 28 ago 2026-08-28 2 matérias
IA Justiça diz que a lista negra do Pentágono contra a Anthropic foi inconstitucional
Pesquisa · IA

Justiça diz que a lista negra do Pentágono contra a Anthropic foi inconstitucional

Uma juíza federal decidiu que o Pentágono, ao colocar a Anthropic na lista negra no início deste ano, agiu de forma inconstitucional. A decisão afirma que a medida foi uma “retaliação ilegal” em violação à Primeira Emenda, após a empresa resistir a exigências ligadas ao uso militar de sua tecnologia de IA.

O caso começou em março, quando a Anthropic acusou a administração Trump de retaliar a empresa por impor “red lines”, ou casos de uso inaceitáveis. A juíza Rita F. Lin também apontou que a designação de “risco para a cadeia de suprimentos” foi arbitrária e sem base, e a empresa disse que segue focada em trabalhar com o governo para aproveitar a IA para a segurança nacional.

#InteligenciaArtificial · #IA · #Anthropic · #Pentagono · #FirstAmendment · #RegulacaoDeIA · #SegurancaNacional

The Verge (AI) 03:14
IA Juíza bloqueia tentativa do governo dos EUA de “blacklist” a Anthropic
Pesquisa · IA

Juíza bloqueia tentativa do governo dos EUA de “blacklist” a Anthropic

Uma juíza federal barrou o governo Trump de designar a Anthropic como “risco para a cadeia de suprimentos” e “risco de segurança nacional” por causa de uma disputa sobre o uso de seus modelos de IA. A decisão da juíza Rita Lin, na Califórnia, anulou a determinação do secretário de Defesa Pete Hegseth de 27 de fevereiro, que também deixava a empresa inelegível para contratos federais, além de suspender uma medida adicional que impedia negócios de fornecedores com a companhia.

Lin afirmou que as sanções impostas por nove agências — incluindo o Pentágono, o Tesouro, o Estado e a Segurança Interna — foram aplicadas de forma inadequada e retirou as penalidades. Apesar disso, a juíza disse que o Pentágono não é obrigado a usar os modelos da Anthropic e que a decisão não impede a escolha de outras tecnologias; a expectativa é de que o governo recorra. A disputa envolve um contrato de US$ 200 milhões para uso do Claude em aplicações militares e negociações sobre limites de implantação, incluindo temas como armas autônomas letais e vigilância em massa.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #SegurancaNacional · #RegulacaoDeIA · #Pentagono

Wired 03:04
Domingo · 16 ago 2026-08-16 1 matéria
IA EUA proíbem robôs humanoides e quadrúpedes chineses; Unitree abre IPO
Pesquisa · IA

EUA proíbem robôs humanoides e quadrúpedes chineses; Unitree abre IPO

A Unitree Robotics, fabricante chinesa de robôs humanoides e quadrúpedes, abriu inscrições para sua oferta pública inicial de ações na Bolsa de Xangai. A operação pode levar o valor de mercado da empresa a mais de 50 bilhões de yuans (R$ 37,7 bilhões), enquanto ela busca ampliar a projeção com a entrada de capital privado.

A movimentação ocorre após os EUA, no fim de julho, anunciarem a proibição de novos robôs humanoides e quadrúpedes fabricados no exterior entrarem no país. A justificativa da medida é a existência de “riscos inaceitáveis” à segurança nacional, com alertas sobre coleta de dados, controle remoto e possível uso duplo, em meio a tensões comerciais e tecnológicas entre Washington e Pequim.

#InteligenciaArtificial · #IA · #Robots · #RobosHumanoides · #SegurancaNacional · #ChinaEUA · #IPO

G1 Tecnologia 06:00
Abrir Ler matéria ↗ ✓ Postado no IG