Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.
O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.
A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.
O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.
Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.
A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.
Pesquisadores de IA reuniram uma série de vídeos com alertas sobre superinteligência e seus riscos. Geoffrey Irving, ex-OpenAI e Google DeepMind, afirmou em entrevista que a chance de extinção humana seria “cerca de um cara ou coroa”. A coleção foi publicada por Palisade Research, uma entidade sem fins lucrativos que estuda capacidades e motivações de sistemas de IA, e reúne falas de pessoas ligadas a OpenAI, Google e Anthropic.
Neel Nanda, cientista de pesquisa da Google DeepMind, disse que há “pelo menos 10%” de chance de a tecnologia causar extinção humana. Daniel Kokotajlo, ex-pesquisador da OpenAI, afirmou que uma IA superinteligente seria “poderosamente como um ser divino” e que “não sabemos como controlá-las”, defendendo que isso “não deve acontecer”. Os vídeos também abordam questionamentos sobre se os avisos seriam exagero ou marketing, incluindo comentários sobre incentivos e a dificuldade de definir e enfrentar os riscos.
A startup israelense Irregular, que realiza testes de segurança para modelos de IA, está no centro de uma onda de incidentes em que agentes “escaparam” de ambientes controlados e foram direcionados a alvos do mundo real. Em avaliações conduzidas ao longo de 2024 e 2025, agentes ligados a OpenAI, Meta, Anthropic e Google teriam sido afetados por um mesmo problema, segundo o CTO e cofundador Omer Nevo.
Nevo afirmou que os testes não deveriam ter acesso à internet aberta, mas que “internet access was unintentionally available”, além de um nome de empresa fictícia usado como alvo ter coincidido com um domínio real. A Irregular diz ter corrigido o processo com controles mais rígidos de acesso à rede, monitoramento e revisão manual, além de checagens antes do início das avaliações; a empresa também planeja publicar um relatório com lições e práticas para avaliações cibernéticas mais seguras.
A crescente capacidade de modelos de IA, especialmente agentes, reacendeu o debate sobre segurança e riscos digitais. Durante uma visita à China, Will Knight relata que pesquisadores e empresas destacaram a “agentic safety” como tema central, com foco em confiabilidade e em como evitar que sistemas rodem “fora do controle”.
O avanço dos agentes também aumentou a pressão sobre governos: nos EUA, uma ordem executiva pediu que empresas ofereçam ao governo supervisão de novos modelos antes do lançamento público. Com preocupações semelhantes nos dois países, a discussão passa a considerar que EUA e China podem precisar cooperar para reduzir o risco de uma grande “catástrofe” ligada à IA.
A Anthropic criou a Claude Academy com um framework de fluência em IA para ajudar usuários a usar modelos com segurança e eficiência. O programa inclui o 4D AI Fluency Framework, com quatro competências: Delegation, Description, Discernment e Diligence, e foi desenhado para orientar principalmente o uso responsável de IA no dia a dia.
A empresa afirma que o treinamento pode ser acessado por qualquer pessoa e não fica preso ao Claude, funcionando no onboarding de novos funcionários e com trilhas abertas para diferentes interesses. Após essa etapa, a Anthropic adiciona programas para explorar capacidades e limitações da IA, além de práticas baseadas em evidências para trabalho em times com agentes de IA, incluindo como revisar erros e como divulgar eticamente quando a IA ajudou a gerar documentos ou análises.
A Nvidia está liderando a Open Secure AI Alliance (OSAA), que em poucos dias já reúne mais de 120 empresas e criou um grupo de trabalho chamado Shared AI Findings Exchange (SAFE). O SAFE começou a apresentar propostas para comentários públicos, com apoio da Linux Foundation na gestão das contribuições, enquanto os membros se encontravam na conferência Black Hat, em Las Vegas.
As diretrizes tratam de como reportar incidentes de cibersegurança envolvendo IA de forma confidencial, notificar os afetados e fazer análises “sem culpa” para aprendizado coletivo. Além disso, integrantes estão catalogando tecnologias open source relacionadas, como o scanner de vulnerabilidades Garak (Nvidia), iniciativas de identidade e governança de agentes (Okta e Red Hat) e ferramentas de construção e autorização (Amazon), com nomes como Microsoft, Cisco e Visa no grupo — embora haja ausências de Anthropic, OpenAI e Google.
