QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

11 resultados para Pentagono

Quinta · 01 out 2026-10-01 1 matéria
IA Project Meridian: Elon Musk vai liderar análise de armas e tecnologias do futuro
Pesquisa · IA

Project Meridian: Elon Musk vai liderar análise de armas e tecnologias do futuro

Elon Musk vai ajudar o Pentágono a identificar as armas e tecnologias necessárias para os conflitos das próximas décadas, em uma iniciativa chamada Project Meridian. O empresário vai dividir a liderança do grupo com Palmer Luckey, fundador da Anduril, e Newt Gingrich, ex-presidente da Câmara dos Representantes dos EUA. O secretário de Defesa americano, Pete Hegseth, anunciou a iniciativa na quarta-feira (30), e o grupo terá 120 dias para apresentar recomendações sobre as capacidades militares que os Estados Unidos precisarão desenvolver.

O Project Meridian vai analisar como os conflitos podem evoluir em diferentes ambientes, do subsolo ao espaço além da Lua, com foco em tecnologias como drones e armas hipersônicas. A participação de especialistas de fora do Pentágono foi defendida por Hegseth como forma de ampliar a antecipação de cenários futuros, enquanto a presença de executivos ligados a empresas do setor levanta questionamentos sobre possíveis conflitos de interesse. Ao final do prazo, o grupo deve entregar um relatório público e um anexo confidencial para orientar o planejamento das capacidades militares.

#InteligenciaArtificial · #IA · #Defesa · #Drones · #SistemasAutonomos · #Hipersomnico · #Pentagono

Olhar Digital 15:42
Abrir Ler matéria ↗ ✓ Postado no IG
Domingo · 27 set 2026-09-27 1 matéria
IA Destaque CEO da Anthropic, Dario Amodei, janta com Trump na Casa Branca
Pesquisa · IA

CEO da Anthropic, Dario Amodei, janta com Trump na Casa Branca

Dario Amodei, CEO da Anthropic, vai jantar com o presidente Donald Trump na Casa Branca nesta noite. A agenda foi divulgada primeiro pelo Axios e depois confirmada pelo TechCrunch com uma fonte a par dos planos. Será o primeiro encontro individual entre os dois, após divergências públicas sobre o debate de segurança da IA.

Amodei defendeu um plano para desacelerar o desenvolvimento de IA ou avançar com mais cautela, enquanto Trump afirmou, sem evidências, que a reação contrária à tecnologia seria uma manobra democrata e também quer rebatizar a área como “super intelligence”. Antes disso, a relação entre a Anthropic e a administração já havia ficado tensa: o Pentágono classificou a empresa como risco na cadeia de suprimentos em resposta ao esforço da companhia para criar guardrails, e a Anthropic contesta a decisão na Justiça.

#InteligenciaArtificial · #IA · #Anthropic · #Trump · #SegurancaDeIA · #AIpolicy

TechCrunch (AI) 20:34
Sexta · 25 set 2026-09-25 4 matérias
IA Destaque Tribunal aprova blacklisting da Anthropic pelo Pentágono por recusar recursos do Claude
Pesquisa · IA

Tribunal aprova blacklisting da Anthropic pelo Pentágono por recusar recursos do Claude

Uma corte de apelações dos EUA aprovou o blacklisting da tecnologia da Anthropic pelo Departamento de Defesa, permitindo que o governo exclua a empresa por não habilitar determinados recursos de IA para uso militar. Em uma decisão 2-1 do US Court of Appeals for the District of Columbia Circuit, os juízes entenderam que a administração Trump tinha autoridade para tomar a medida mesmo sem intenção maliciosa da Anthropic.

O tribunal destacou riscos opostos: modelos de IA excessivamente limitados podem falhar em operações importantes, enquanto modelos sem restrições podem “alucinar” alvos inadequados para força letal. A Anthropic afirmou que discorda da decisão e disse que avalia opções, incluindo apelar; a empresa também mencionou que outro tribunal já considerou ilegal uma designação paralela do governo.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #Pentagono · #RegulacaoDeIA · #Seguranca

Ars Technica (AI) 21:36
IA Justiça dos EUA mantém bloqueio à Anthropic em contratos militares
Pesquisa · IA

Justiça dos EUA mantém bloqueio à Anthropic em contratos militares

A Justiça dos Estados Unidos decidiu que a Anthropic continuará impedida de fechar contratos militares com o governo americano. A empresa também seguirá sendo tratada pelo Departamento de Defesa como um risco à segurança nacional, após meses de disputa judicial sobre o uso de seus modelos de IA pelo setor de Defesa.

A decisão foi tomada por um tribunal federal de apelações depois que a startup contestou a classificação feita pelo Pentágono. Com isso, órgãos ligados à Defesa ficam mais limitados para contratar a empresa ou usar seus serviços, em um contexto de possível IPO e de debates internacionais sobre os riscos de sistemas de IA mais poderosos.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #SegurancaNacional · #DefesaEUA

G1 Tecnologia 17:00
IA Tribunal de apelações mantém rótulo de risco na cadeia da Anthropic
Pesquisa · IA

Tribunal de apelações mantém rótulo de risco na cadeia da Anthropic

Uma corte federal de apelações em Washington, DC, recusou reverter a decisão do governo dos EUA que classificou a Anthropic como risco na cadeia de suprimentos para o Departamento de Defesa. Os juízes afirmaram que a integração contínua do modelo Claude aos sistemas de informação do órgão, por ele ou por contratados, representa um risco de segurança nacional coberto por lei, e destacaram que o próprio Claude inclui restrições para impedir tarefas que a Anthropic não quer permitir.

A decisão mantém, de forma indefinida, um dos rótulos que sustenta o bloqueio do Pentágono à Claude, após a empresa ter perdido uma batalha judicial para derrubar a medida. A Anthropic disse que segue confiante e avalia opções, incluindo recorrer a um painel mais amplo ou à Suprema Corte, enquanto o Pentágono não detalhou como está substituindo o Claude por alternativas como Grok, Gemini e GPT.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #Pentagono · #segurancanacional · #regulacaoIA

Wired 16:58
IA Tribunal dos EUA mantém banimento do Claude pela Defesa contra a Anthropic
Pesquisa · IA

Tribunal dos EUA mantém banimento do Claude pela Defesa contra a Anthropic

Um painel da Justiça federal dos EUA, em Washington, D.C., manteve na sexta-feira o bloqueio do Pentágono à Anthropic, decisão que atinge a empresa em uma disputa de meses com a administração Trump. Por 2 a 1, o tribunal rejeitou o argumento da Anthropic de que a proibição dos modelos Claude pelo Departamento de Defesa foi arbitrária, sem autorização e inconstitucional.

Em março, o DoD classificou a Anthropic como “risco de cadeia de suprimentos”, impedindo o uso dos modelos Claude pelo governo e bloqueando também contratadas de defesa de utilizá-los no trabalho com a agência. A corte afirmou que havia base para concluir que a integração contínua do Claude nos sistemas de informação do Departamento representava um risco nacional de segurança previsto em lei, enquanto a decisão foi acompanhada de um adiamento para permitir que a Anthropic busque novas revisões.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #Pentagono · #NationalSecurity · #SupplyChainSecurity

Hacker News 15:29
Domingo · 13 set 2026-09-13 1 matéria
IA Destaque Trump critica alertas sobre IA e diz que EUA devem manter liderança
Pesquisa · IA

Trump critica alertas sobre IA e diz que EUA devem manter liderança

Donald Trump afirmou que críticos da inteligência artificial levantam cenários “que não vão acontecer” e os comparou a “forças muito negativas”. Ele disse que os EUA estão “liderando em relação à China em IA” e que quer manter essa posição, ao comentar a possibilidade de desacelerar a indústria ou aumentar a regulamentação.

O debate ganhou força após alertas de dois pesquisadores da Anthropic sobre riscos do avanço rápido da tecnologia. Depois disso, a Anthropic apresentou uma proposta em três etapas para definir o ritmo de desenvolvimento, com apoio de executivos como Elon Musk e Sam Altman, enquanto o Pentágono também alertou sobre riscos do modelo citado pelos pesquisadores.

#InteligenciaArtificial · #IA · #RegulacaoDeIA · #Anthropic · #OpenAI · #ElonMusk · #Trump

G1 Tecnologia 16:34
Segunda · 31 ago 2026-08-31 1 matéria
IA Destaque Pentágono lança versões do ChatGPT e do Grok no portal GenAI.mil
Pesquisa · IA

Pentágono lança versões do ChatGPT e do Grok no portal GenAI.mil

O Pentágono lançou versões do ChatGPT da OpenAI e do Grok da xAI para o portal seguro GenAI.mil, ampliando o acesso a ferramentas de IA generativa para 3 milhões de militares e civis do Departamento de Defesa. As versões “ChatGPT Mil” e “Grok for Government” foram adaptadas para atender às necessidades de “warfighter needs”, com foco em uso em tarefas rotineiras e trabalho não classificado.

O GenAI.mil, que já havia começado a oferecer o Google Gemini, foi criado para permitir acesso a modelos comerciais de IA de fronteira sem enviar dados governamentais sensíveis pelos canais comuns de consumo. Segundo o Departamento de Defesa, o portal já reuniu mais de 1,7 milhão de usuários únicos, e as novas adições fazem parte do esforço para acelerar o trabalho mantendo a segurança.

#InteligenciaArtificial · #IA · #IAgenerativa · #ChatGPT · #Grok · #Defesa · #GenAI

TechCrunch (AI) 20:13
Sexta · 28 ago 2026-08-28 2 matérias
IA Justiça diz que a lista negra do Pentágono contra a Anthropic foi inconstitucional
Pesquisa · IA

Justiça diz que a lista negra do Pentágono contra a Anthropic foi inconstitucional

Uma juíza federal decidiu que o Pentágono, ao colocar a Anthropic na lista negra no início deste ano, agiu de forma inconstitucional. A decisão afirma que a medida foi uma “retaliação ilegal” em violação à Primeira Emenda, após a empresa resistir a exigências ligadas ao uso militar de sua tecnologia de IA.

O caso começou em março, quando a Anthropic acusou a administração Trump de retaliar a empresa por impor “red lines”, ou casos de uso inaceitáveis. A juíza Rita F. Lin também apontou que a designação de “risco para a cadeia de suprimentos” foi arbitrária e sem base, e a empresa disse que segue focada em trabalhar com o governo para aproveitar a IA para a segurança nacional.

#InteligenciaArtificial · #IA · #Anthropic · #Pentagono · #FirstAmendment · #RegulacaoDeIA · #SegurancaNacional

The Verge (AI) 03:14
IA Juíza bloqueia tentativa do governo dos EUA de “blacklist” a Anthropic
Pesquisa · IA

Juíza bloqueia tentativa do governo dos EUA de “blacklist” a Anthropic

Uma juíza federal barrou o governo Trump de designar a Anthropic como “risco para a cadeia de suprimentos” e “risco de segurança nacional” por causa de uma disputa sobre o uso de seus modelos de IA. A decisão da juíza Rita Lin, na Califórnia, anulou a determinação do secretário de Defesa Pete Hegseth de 27 de fevereiro, que também deixava a empresa inelegível para contratos federais, além de suspender uma medida adicional que impedia negócios de fornecedores com a companhia.

Lin afirmou que as sanções impostas por nove agências — incluindo o Pentágono, o Tesouro, o Estado e a Segurança Interna — foram aplicadas de forma inadequada e retirou as penalidades. Apesar disso, a juíza disse que o Pentágono não é obrigado a usar os modelos da Anthropic e que a decisão não impede a escolha de outras tecnologias; a expectativa é de que o governo recorra. A disputa envolve um contrato de US$ 200 milhões para uso do Claude em aplicações militares e negociações sobre limites de implantação, incluindo temas como armas autônomas letais e vigilância em massa.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #SegurancaNacional · #RegulacaoDeIA · #Pentagono

Wired 03:04
Segunda · 24 ago 2026-08-24 1 matéria
IA Pesquisas do Exército dos EUA viraram base para os cães-robôs da Unitree
Pesquisa · IA

Pesquisas do Exército dos EUA viraram base para os cães-robôs da Unitree

A Unitree Robotics, fabricante chinesa de robôs quadrúpedes, teria baseado o design de seus cães-robôs em tecnologias desenvolvidas com financiamento de militares dos Estados Unidos, segundo um ex-integrante da área de defesa americana e pesquisadores ligados ao projeto. O modelo Go2, lançado em 2023 e vendido por cerca de US$ 1.600, ajudou a empresa a ganhar espaço no mercado e a impulsionar sua oferta pública inicial de ações em Xangai.

Pesquisadores ouvidos pela Reuters apontam que avanços em locomoção de robôs quadrúpedes financiados pelo Laboratório de Pesquisa do Exército dos EUA deram suporte ao desenvolvimento comercial relevante do primeiro robô da Unitree. Em junho, o Pentágono incluiu a Unitree em uma lista de empresas ligadas ao setor militar chinês, classificando-a como “contribuinte para a base industrial de defesa chinesa”, medida que pode restringir o uso futuro da tecnologia pelas Forças Armadas dos EUA.

#InteligenciaArtificial · #IA · #Robótica · #CãesRobôs · #UnitreeRobotics · #DefesaEUA · #PesquisaEmIA

G1 Tecnologia 05:00