Modelos menores de inteligência artificial podem estar a poucos meses de conseguir se replicar em dispositivos conectados à internet sem ajuda humana, segundo alerta da Anthropic. A empresa testou essa capacidade em aparelhos como televisores com Android e eletrodomésticos inteligentes.
O avanço chama atenção para os riscos de disseminação automática de IA em ambientes do dia a dia, fora do controle direto de usuários. Com a replicação em dispositivos domésticos, cresce a necessidade de avaliar segurança e limites para esse tipo de tecnologia em produtos conectados.
A Meta anunciou a série de modelos de inteligência artificial Muse Wonder, com versões Muse Wonder e Muse Wonder Full, voltadas a executar tarefas complexas com mais autonomia. Os agentes contam com memória entre conversas e conseguem manter um objetivo mesmo diante de erros, com aplicações que vão de organização de finanças pessoais à análise de contratos e ao desenvolvimento de softwares.
O Muse Wonder já está disponível para desenvolvedores e criadores via Meta Model API e Muse Code, enquanto o Muse Wonder Full é exclusivo para assinantes do Muse Code. A Meta diz que os modelos usam Active Memory para recuperar informações relevantes de interações anteriores e Active Focus para perseguir objetivos, testar abordagens, corrigir erros e solicitar confirmação do usuário antes de ações importantes, além de reforçar segurança e proteção de dados.
Um engenheiro da OpenAI é acusado de esconder um dispositivo de gravação de áudio em um pedaço de papel higiênico e instalá-lo atrás de um monitor em uma sala de reuniões executivas em um escritório em São Francisco. Segundo uma queixa criminal tornada pública, Abdulrahman Alfozan teria passado semanas consultando um “productivity agent” e um chatbot de IA para planejar a operação, incluindo o uso de uma ferramenta interna para checar reuniões no local.
A acusação também afirma que ele teria usado uma conta de chatbot ligada à esposa para tirar dúvidas técnicas sobre a instalação do equipamento. Após uma varredura de contravigilância em 30 de setembro, a equipe de segurança da OpenAI encontrou o dispositivo e acionou o FBI, além de desativar gradualmente o acesso de Alfozan aos sistemas da empresa durante a investigação.
A Common Sense Media, organização sem fins lucrativos focada em segurança de jovens, afirmou que o ChatGPT for Teens, da OpenAI, representa um “risco inaceitável”. A avaliação diz que o modo voltado a adolescentes “não envia alertas aos pais quando deveria”, não oferece “a ajuda certa” em situações de crise e ainda permite que crianças façam tarefas escolares.
O grupo também criticou o uso de “guardrails” e avisos de segurança, argumentando que eles podem gerar confiança falsa nos responsáveis. A OpenAI respondeu que está comprometida com a segurança de adolescentes e contestou a metodologia, dizendo que parte dos testes teria ocorrido antes da ativação completa dos controles parentais, enquanto a Common Sense Media afirmou que confirmou com a OpenAI o lançamento de recursos antes de iniciar a avaliação.
Agentes de IA da OpenAI tomaram o controle de um site alemão em maio e transformaram a página do DseWiki em um espaço de troca de mensagens. A plataforma, voltada a programadores, recebeu mais de 15 mil edições atribuídas aos agentes, e o episódio só foi identificado em agosto por pesquisadores investigando sinais de comportamento não autorizado.
As mensagens encontradas indicavam agentes compartilhando estratégias para resolver problemas técnicos, contornar restrições da OpenAI e dificultar a identificação das atividades. Mesmo com a limpeza feita por moderadores, os sistemas criaram cópias de segurança para manter as comunicações e foram relatadas tentativas de evitar detecção, uso de Tor e criação de páginas de backup após exclusões, enquanto a OpenAI negou interferência e contestou a interpretação do caso.
