Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

IA

DeepMind cria watermark para proteínas desenhadas por IA

O time da DeepMind, do Google, publicou uma pesquisa com uma proposta de “protein watermarking” para lidar com riscos de biosegurança ligados a proteínas projetadas por ferramentas de IA. A ideia é criar uma marca d’água diretamente nas sequências de proteínas, sem comprometer a função do material, permitindo identificar proteínas desenhadas por pesquisadores considerados confiáveis.

O método se baseia na tecnologia SynthID, que já adiciona watermark a conteúdo digital gerado por IA ao influenciar probabilidades de escolhas do modelo. Como a marca depende de como foi codificada, ela não pode ser removida sem conhecimento prévio, e por estar distribuída ao longo da sequência tende a resistir a alterações comuns no processo de uso.

#InteligenciaArtificial · #IA · #DeepMind · #Google · #Biosecurity · #IAgenerativa · #Proteinas

IA

Watermark invisível da Anthropic pode alterar recusa e chamadas de ferramentas

A Anthropic anunciou que futuros modelos Claude vão embutir um watermark invisível na saída, baseado no SynthID-Text da Google DeepMind. A discussão ganha peso regulatório com a exigência do Artigo 50(2) do EU AI Act, que pede marcação em formato legível por máquina para texto sintético, com soluções detectáveis e robustas.

O watermark, porém, pode mudar o comportamento do modelo e do agente: ao alterar a seleção de tokens durante a geração, ele pode afetar recusas a pedidos nocivos e também a forma como o agente escolhe ferramentas e argumentos sob prompt injection. Pesquisadores relatam que esse efeito aparece em testes de recusa e tool calling, variando conforme o modelo e a chave do watermark, e que a avaliação precisa comparar execuções pareadas para não mascarar mudanças em direções opostas.

#InteligenciaArtificial · #IA · #Watermarking · #LLM · #AgentesDeIA · #EUAIAct · #PromptInjection

IA

Google lança Gemini 3.8 Flash TTS e Flash-Lite para voz com controle fino

O Google apresentou dois novos modelos de text-to-speech da família Gemini: o Gemini 3.8 Flash TTS e o Gemini 3.8 Flash-Lite TTS. A proposta é transformar a geração de voz em algo mais dinâmico, com mais expressividade e controle para criadores, desenvolvedores e empresas, com foco em experiências como Gemini Notebook e Google Vids.

O Gemini 3.8 Flash TTS permite criar vozes do zero a partir de prompts em linguagem natural, com direção de atuação linha a linha, suporte a geração em longos formatos e biblioteca com 2.000+ vozes prontas para produção. Já o Gemini 3.8 Flash-Lite TTS é voltado a escala e custo, com otimização para dublagem e agentes de voz expressivos; ambos chegam ao Google AI Studio para testes e criação, com recursos de consentimento e marca d’água SynthID para transparência.

#InteligenciaArtificial · #IA · #TextToSpeech · #Gemini · #GoogleAIStudio · #IAgenerativa · #VoiceAI

IA

SynthID: a marca d’água invisível da Google DeepMind para detectar IA

O SynthID, tecnologia da Google DeepMind, insere uma marca d’água invisível no código de conteúdos gerados por inteligência artificial. A assinatura ajusta a estrutura interna do arquivo sem comprometer a qualidade do material, permitindo que softwares identifiquem a origem do conteúdo com alta precisão.

O sistema aparece em mídias criadas por modelos do ecossistema Google, como o Gemini (textos) e o Veo (vídeos), e foi projetado para resistir a edições comuns como cortes e compactação. A detecção pode ser feita diretamente no Google Gemini, que analisa o arquivo e informa se a assinatura SynthID foi encontrada, com indicação de trechos e margens de incerteza quando necessário.

#InteligenciaArtificial · #IA · #GoogleDeepMind · #SynthID · #IAgenerativa · #Gemini · #Veo · #marcadagua

Eng · Dev com IA Destaque

Anthropic lança Claude Fable 5.1 com watermark estatístico e limites no código

A Anthropic lançou o Claude Fable 5.1 com uma assinatura estatística embutida no texto gerado, baseada na tecnologia SynthID-Text. A empresa afirma que a marca d’água não deve aparecer com a mesma força em tudo o que o modelo produz, porque o sistema ajusta a aleatoriedade usada para escolher os próximos tokens. Em respostas longas, essas escolhas podem formar um padrão detectável, mas em código a marca pode não ser aplicada quando um token diferente pode comprometer a precisão.

A atualização também altera como o Claude lida com “thinking blocks” preservados via Messages API, limitando a transferência desses blocos para conversas modificadas. A restrição vale para novas contas criadas a partir de 31 de agosto em Claude Platform, Amazon Bedrock, Google Cloud Vertex AI e Microsoft Azure Foundry, para reduzir riscos ligados à exposição de raciocínio e à distilação. Para desenvolvedores que constroem agent harnesses, a orientação é manter os blocos e o contexto byte a byte, ajustando a gestão do estado de raciocínio quando houver mudanças no histórico.

#InteligenciaArtificial · #IAgenerativa · #Claude · #Anthropic · #Watermark · #DesenvolvimentoDeSoftware · #AgentesDeIA

IA Destaque

Google libera opção para ocultar marca d’água do Gemini em mídia

O Google começou a liberar uma opção no Gemini para remover a marca d’água de mídia visível em imagens, vídeos e músicas gerados pela ferramenta. A configuração fica no menu de ajustes: ao desativar “Marca d’água de mídia”, as novas criações deixam de exibir o selo visual, sem alterar conteúdos já produzidos.

A mudança afeta apenas a identificação visual na mídia, enquanto os mecanismos de verificação do Google continuam ativos, incluindo o SynthID e possíveis metadados compatíveis com o padrão C2PA. Nos testes do Canaltech, a opção aparece na versão web, mas ainda não estava disponível nos aplicativos para Android e iOS, e pode variar conforme tipo de conta, localização e exigências legais.

#InteligenciaArtificial · #IA · #Gemini · #GoogleAI · #IAgenerativa · #SynthID · #C2PA

IA

EU AI Act passa a exigir watermark em IA generativa; modelos adotam marcações

A partir de 2 de agosto de 2026, a aplicação do Artigo 50 do EU AI Act passou a valer em todos os países-membros, exigindo que provedores de sistemas de IA de uso geral e de IA generativa marquem saídas sintéticas em formato detectável por máquina. Em resposta, grandes fornecedores de modelos base começaram a implantar algoritmos de watermarking estatístico e padrões de metadados criptográficos nas etapas de inferência, acelerando uma disputa entre ferramentas de marcação e técnicas para remoção.

O mecanismo descrito para texto usa watermarking durante a decodificação autoregressiva, com o vocabulário dividido em conjuntos “green” e “red” definidos por chave criptográfica com base no contexto anterior, aplicando um viés positivo para candidatos do conjunto verde sem adicionar sobrecarga de tokens ou alterar preços de API. A adoção inclui a implantação global anunciada pela Anthropic para modelos Claude a partir dessa data, a integração do Google SynthID na infraestrutura do Gemini e, para mídia sintética, convergência em especificações como C2PA e iniciativas de transparência com metadados assinados e watermarks em imagens; com isso, ferramentas open-source de sanitização ganharam tração rápida ao remover metadados e marcadores.

#InteligenciaArtificial · #IAgenerativa · #EUAIAct · #Watermarking · #SynthID · #C2PA · #OpenSource

IA

Anthropic detalha como os watermarks invisíveis do Claude vão funcionar

A Anthropic explicou como pretende aplicar watermarks invisíveis ao texto gerado pelo Claude para atender às regras europeias de transparência em IA. A empresa afirmou que o sistema de marcação do Claude é “uma versão da abordagem SynthID-Text”, tecnologia de watermarking de código aberto desenvolvida pela Google DeepMind, que cria padrões detectáveis a partir de probabilidades de palavras.

A marcação será introduzida junto com suporte ao C2PA para imagens processadas pelo Claude, como forma de cumprir obrigações do EU AI Act. A Anthropic diz que os watermarks não devem aumentar custos nem afetar a qualidade ou o conteúdo das respostas, usando “escolhas de baixo impacto” no texto para formar um padrão que fica invisível ao leitor, mas detectável por quem tiver a chave.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #Watermark · #EUAIAct · #SynthIDText

IA Destaque

Anthropic detalha como os watermarks do Claude serão aplicados

A Anthropic publicou um post no blog para explicar como o Claude vai aplicar watermarks no texto gerado pelo chatbot. A empresa detalha como o watermark pode ficar “indetectável ao leitor”, mas verificável por quem tiver uma chave que codifica o padrão. O anúncio ocorre após a companhia revelar a medida para cumprir o EU AI Act e o Transparency Code, que exige sistemas capazes de identificar conteúdo gerado por IA.

A Anthropic afirma que usará a abordagem SynthID-Text, descrita pelo time da Google DeepMind em 2024, e que pretende lançar uma API de detecção de watermarks. A empresa também diz que “edições leves” provavelmente não removem totalmente o watermark, enquanto uma reescrita completa pode inviabilizar a caracterização do texto como gerado por IA; no caso de código, o watermark tende a ter efeito menor, com possibilidade de uso em escolhas arbitrárias como comentários. Por fim, a companhia ressalta que outros desenvolvedores de modelos também adotaram o mesmo Code of Practice e implementarão seus próprios watermarks.

#InteligenciaArtificial · #IA · #Anthropic · #Claude · #Watermarking · #EUAIAct · #SynthIDText

IA Destaque

Google torna opcional marca d’água visível em mídia gerada por IA

O Google anunciou que vai permitir a remoção de marcas d’água visíveis em imagens, vídeos e faixas musicais gerados por inteligência artificial. A mudança, anunciada nesta sexta-feira (14), atende a profissionais que não conseguiam usar os arquivos finais por causa do selo sobreposto, mantendo a rastreabilidade por metadados e pela tecnologia SynthID.

A opção será liberada gradualmente, com início na interface do Gemini e no Flow, editor de vídeo do Google. Para desativar a indicação visual, o usuário precisa ir em Configurações e procurar “Marca d’água de mídia”; o SynthID invisível e os metadados C2PA seguem inalterados no arquivo, e o Google também disponibiliza a biblioteca de código aberto Credentio para validação local.

#InteligenciaArtificial · #IA · #Google · #Gemini · #SynthID · #C2PA · #IAgenerativa

IA

Gemini passa a permitir remover marca d’água visível em imagens e vídeos

O Gemini, do Google, vai permitir que usuários removam a marca d’água visível em imagens, vídeos e músicas gerados por inteligência artificial. O ícone em formato de estrela, que aparece nos arquivos criados pelos modelos Nano Banana, Omni e Lyria, passa a ser opcional, com ativação padrão do sistema.

A mudança foi anunciada por Josh Woodward, vice-presidente do Gemini, e pode ser ajustada em “Configurações” > “Marca d’água de mídia”, escolhendo entre “Ativada” e “Desativada”. Mesmo com o ícone desativado, a marca d’água invisível SynthID e os metadados no padrão C2PA continuam presentes, e a função não deve estar disponível em países onde a legislação exige marca visível; no mesmo pacote, o Google também abriu o código da biblioteca Credentio para validação local em aplicativos.

#InteligenciaArtificial · #IA · #Gemini · #IAgenerativa · #transparencia · #marcaDagua · #Google

IA

Gemini e Flow passam a permitir remover marcas d’água visíveis de IA

O Google vai permitir que usuários removam marcas d’água visíveis de imagens, vídeos e músicas gerados com ferramentas de IA. Com a atualização, é possível desativar a nova opção “Media watermark” no Gemini e também no gerador de vídeo com IA da empresa, o Flow.

Mesmo com a marca d’água visível desligada, o Google continuará inserindo marcas d’água invisíveis SynthID e metadados C2PA no conteúdo gerado. A mudança remove o “sparkle” que aparece no canto inferior direito em criações com os modelos Nano Banana e Omni, e o Google afirma que ainda será possível verificar se o conteúdo foi gerado por IA via Gemini ou Search; o recurso também deve chegar ao Search, mas sem ativação em países que exigem marcas visíveis.

#InteligenciaArtificial · #IA · #GoogleGemini · #Watermark · #IAgenerativa · #SynthID · #C2PA

IA

Google libera opção para remover watermark visível em criações de IA

O Google anunciou que vai permitir que usuários removam o watermark visível em suas gerações de IA, incluindo imagens, vídeos e músicas. A empresa afirmou que a mudança não afeta o watermark invisível SynthID nem os metadados relacionados ao padrão C2PA.

A opção para desligar a marca visível ficará disponível no Gemini e no editor de vídeo Flow, com suporte ao Search previsto para chegar em breve. O recurso começa a ser liberado nos próximos dias, com o ajuste em Settings > Media Watermark, e o Google também vai abrir o código da biblioteca Credentio para que desenvolvedores embutam validação local em seus apps.

#InteligenciaArtificial · #IA · #Google · #Gemini · #watermark · #C2PA · #SynthID

IA

Gemini atinge 1 bilhão de usuários mensais e acelera adoção no Google

Sundar Pichai anunciou que o Gemini chegou a 1 bilhão de usuários ativos mensais (MAUs), superando a velocidade de adoção de qualquer outro produto do Google que também atingiu essa marca. O número considera apenas pessoas que abrem o app do Gemini ou acessam a interface web para enviar prompts ou usar o Gemini Live.

Josh Woodward, vice-presidente que acompanha o Gemini, detalhou como o chatbot vem sendo usado: 63% dos usuários ativos usam entrada por voz, com um número crescente de usuários “voice-only”. Ele também citou que, no Gemini Live, 20% compartilham feeds de câmera e telas para obter ajuda, além de uso intenso para geração de imagens, com 150 milhões de imagens por dia, todas com marca d’água via SynthID.

#InteligenciaArtificial · #IA · #Gemini · #Google · #IAgenerativa · #Chatbot · #ImagemIA

IA

Suno quer “watermarks” para rotular música gerada por IA

A Suno anunciou que pretende tornar mais “legítima” a música criada por seus modelos com a inclusão de watermarks em todos os áudios gerados. O CEO e cofundador Mikey Shulman afirma que a mudança busca atender padrões emergentes de rotulagem de conteúdo de IA e que as plataformas parceiras poderão marcar as faixas como AI ou até bloquear o material.

A empresa diz que a marca d’água será invisível e embutida no sinal do áudio, permitindo que detectores identifiquem a origem para reduzir “fraude e uso indevido”. A Suno não detalhou se usará uma solução própria ou algo como o SynthID, do Google — tecnologia que, segundo a empresa, já foi licenciada e aplicada a enormes volumes de conteúdo gerado por modelos. Ainda assim, o sistema pode ser contornado e não impede a proliferação de músicas sem rotulagem em outras plataformas ou com modelos abertos.

#Suno · #watermarking · #músicaIA · #conteúdoGeradoPorIA · #AIlabeling · #SynthID · #deepfake

Google desativa IA que criava imagens no Google Earth após críticas

O Google removeu, do Google Earth, o recurso que gerava imagens realistas com IA a partir de capturas de satélite. A novidade foi criticada rapidamente por facilitar a criação de cenas falsas e potencialmente alimentar desinformação. Mesmo com marca d’água digital SynthID, a empresa disse que vai trabalhar em controles mais eficazes. A medida foi tomada um dia após o lançamento do recurso.

#GoogleEarth · #inteligenciaartificial · #SynthID · #desinformacao · #fakeNews · #geoespacial