10 resultados para watermarking
Quarta · 30 set
2026-09-30
1 matéria
IA
Pesquisa · IA
O time da DeepMind, do Google, publicou uma pesquisa com uma proposta de “protein watermarking” para lidar com riscos de biosegurança ligados a proteínas projetadas por ferramentas de IA. A ideia é criar uma marca d’água diretamente nas sequências de proteínas, sem comprometer a função do material, permitindo identificar proteínas desenhadas por pesquisadores considerados confiáveis.
O método se baseia na tecnologia SynthID, que já adiciona watermark a conteúdo digital gerado por IA ao influenciar probabilidades de escolhas do modelo. Como a marca depende de como foi codificada, ela não pode ser removida sem conhecimento prévio, e por estar distribuída ao longo da sequência tende a resistir a alterações comuns no processo de uso.
#InteligenciaArtificial · #IA · #DeepMind · #Google · #Biosecurity · #IAgenerativa · #Proteinas
Sábado · 26 set
2026-09-26
1 matéria
IA
Pesquisa · IA
A Anthropic anunciou que futuros modelos Claude vão embutir um watermark invisível na saída, baseado no SynthID-Text da Google DeepMind. A discussão ganha peso regulatório com a exigência do Artigo 50(2) do EU AI Act, que pede marcação em formato legível por máquina para texto sintético, com soluções detectáveis e robustas.
O watermark, porém, pode mudar o comportamento do modelo e do agente: ao alterar a seleção de tokens durante a geração, ele pode afetar recusas a pedidos nocivos e também a forma como o agente escolhe ferramentas e argumentos sob prompt injection. Pesquisadores relatam que esse efeito aparece em testes de recusa e tool calling, variando conforme o modelo e a chave do watermark, e que a avaliação precisa comparar execuções pareadas para não mascarar mudanças em direções opostas.
#InteligenciaArtificial · #IA · #Watermarking · #LLM · #AgentesDeIA · #EUAIAct · #PromptInjection
Terça · 18 ago
2026-08-18
1 matéria
IA
Pesquisa · IA
A partir de 2 de agosto de 2026, a aplicação do Artigo 50 do EU AI Act passou a valer em todos os países-membros, exigindo que provedores de sistemas de IA de uso geral e de IA generativa marquem saídas sintéticas em formato detectável por máquina. Em resposta, grandes fornecedores de modelos base começaram a implantar algoritmos de watermarking estatístico e padrões de metadados criptográficos nas etapas de inferência, acelerando uma disputa entre ferramentas de marcação e técnicas para remoção.
O mecanismo descrito para texto usa watermarking durante a decodificação autoregressiva, com o vocabulário dividido em conjuntos “green” e “red” definidos por chave criptográfica com base no contexto anterior, aplicando um viés positivo para candidatos do conjunto verde sem adicionar sobrecarga de tokens ou alterar preços de API. A adoção inclui a implantação global anunciada pela Anthropic para modelos Claude a partir dessa data, a integração do Google SynthID na infraestrutura do Gemini e, para mídia sintética, convergência em especificações como C2PA e iniciativas de transparência com metadados assinados e watermarks em imagens; com isso, ferramentas open-source de sanitização ganharam tração rápida ao remover metadados e marcadores.
#InteligenciaArtificial · #IAgenerativa · #EUAIAct · #Watermarking · #SynthID · #C2PA · #OpenSource
Segunda · 17 ago
2026-08-17
1 matéria
IA
Pesquisa · IA
A Anthropic explicou como pretende aplicar watermarks invisíveis ao texto gerado pelo Claude para atender às regras europeias de transparência em IA. A empresa afirmou que o sistema de marcação do Claude é “uma versão da abordagem SynthID-Text”, tecnologia de watermarking de código aberto desenvolvida pela Google DeepMind, que cria padrões detectáveis a partir de probabilidades de palavras.
A marcação será introduzida junto com suporte ao C2PA para imagens processadas pelo Claude, como forma de cumprir obrigações do EU AI Act. A Anthropic diz que os watermarks não devem aumentar custos nem afetar a qualidade ou o conteúdo das respostas, usando “escolhas de baixo impacto” no texto para formar um padrão que fica invisível ao leitor, mas detectável por quem tiver a chave.
#InteligenciaArtificial · #IA · #Anthropic · #Claude · #Watermark · #EUAIAct · #SynthIDText
Sábado · 15 ago
2026-08-15
1 matéria
IA
Destaque
Pesquisa · IA
A Anthropic publicou um post no blog para explicar como o Claude vai aplicar watermarks no texto gerado pelo chatbot. A empresa detalha como o watermark pode ficar “indetectável ao leitor”, mas verificável por quem tiver uma chave que codifica o padrão. O anúncio ocorre após a companhia revelar a medida para cumprir o EU AI Act e o Transparency Code, que exige sistemas capazes de identificar conteúdo gerado por IA.
A Anthropic afirma que usará a abordagem SynthID-Text, descrita pelo time da Google DeepMind em 2024, e que pretende lançar uma API de detecção de watermarks. A empresa também diz que “edições leves” provavelmente não removem totalmente o watermark, enquanto uma reescrita completa pode inviabilizar a caracterização do texto como gerado por IA; no caso de código, o watermark tende a ter efeito menor, com possibilidade de uso em escolhas arbitrárias como comentários. Por fim, a companhia ressalta que outros desenvolvedores de modelos também adotaram o mesmo Code of Practice e implementarão seus próprios watermarks.
#InteligenciaArtificial · #IA · #Anthropic · #Claude · #Watermarking · #EUAIAct · #SynthIDText
Quinta · 13 ago
2026-08-13
1 matéria
IA
Pesquisa · IA
A Anthropic passou a inserir watermarks invisíveis nas respostas do Claude, adicionando um código no texto editorial do chatbot para marcar o conteúdo como gerado por IA. A mudança foi implementada para atender ao EU AI Act e ao Transparency Code, que exige rotulagem de conteúdos gerados ou editados de forma identificável por sistemas computacionais.
Enquanto reguladores europeus podem ver a medida como necessária, usuários do Claude no Reddit reagiram com críticas e descontentamento. Parte dos participantes argumentou que a marcação poderia “pegar” estudantes e profissionais que usam o chatbot para tarefas como reorganizar parágrafos e resumir transcrições, enquanto outros defenderam a política como um meio de detectar saídas de IA e reduzir riscos.
#InteligenciaArtificial · #IA · #Claude · #Anthropic · #Watermarking · #EUAIAct · #Transparencia
Terça · 11 ago
2026-08-11
2 matérias
IA
Pesquisa · IA
A Anthropic vai embutir watermarks invisíveis no texto gerado pelos novos modelos Claude, incluindo saídas produzidas pela Claude API, ferramentas de coding e parceiros em nuvem. A empresa afirma que a marca ajuda a rastrear de onde pode ter vindo conteúdo ou código gerado por IA, mas ressalta que isso não é forte o bastante para provar a origem com certeza.
Os modelos do Claude lançados na União Europeia em ou após 2 de agosto de 2026 terão marcação legível por máquina, e a empresa trabalha para adicionar suporte a versões mais antigas. O watermark também deve acompanhar a saída em produtos como Claude Code, Claude Cowork e Claude Tag, além de aparecer em texto gerado via AWS, Google Cloud ou Microsoft Foundry quando usam modelos suportados, seguindo exigências de transparência do EU AI Act.
#InteligenciaArtificial · #IA · #Anthropic · #Claude · #Watermarking · #EUAIAct · #IAgenerativa
IA
Pesquisa · IA
A Anthropic afirmou que vai começar a marcar textos e imagens gerados pelo Claude com dados legíveis por máquina para atender regras europeias de transparência. Segundo a empresa, o conteúdo terá watermarks embutidos e, quando suportado, os arquivos trarão metadados de proveniência assinados digitalmente.
As marcas serão aplicadas globalmente a modelos do Claude, incluindo Claude Platform (API), Claude, Claude Code, Claude Cowork e Claude Tag, usando C2PA para imagens e um método mais leve para texto. A empresa trata a mudança como compromisso futuro: novos modelos do Claude devem marcar o conteúdo desde o lançamento, enquanto o suporte aos modelos existentes ainda está em andamento.
#InteligenciaArtificial · #IA · #Anthropic · #Claude · #Watermarking · #C2PA · #TransparenciaIA
Quinta · 06 ago
2026-08-06
2 matérias
IA
Pesquisa · IA
A Suno anunciou que pretende tornar mais “legítima” a música criada por seus modelos com a inclusão de watermarks em todos os áudios gerados. O CEO e cofundador Mikey Shulman afirma que a mudança busca atender padrões emergentes de rotulagem de conteúdo de IA e que as plataformas parceiras poderão marcar as faixas como AI ou até bloquear o material.
A empresa diz que a marca d’água será invisível e embutida no sinal do áudio, permitindo que detectores identifiquem a origem para reduzir “fraude e uso indevido”. A Suno não detalhou se usará uma solução própria ou algo como o SynthID, do Google — tecnologia que, segundo a empresa, já foi licenciada e aplicada a enormes volumes de conteúdo gerado por modelos. Ainda assim, o sistema pode ser contornado e não impede a proliferação de músicas sem rotulagem em outras plataformas ou com modelos abertos.
#Suno · #watermarking · #músicaIA · #conteúdoGeradoPorIA · #AIlabeling · #SynthID · #deepfake
IA
Pesquisa · IA
A Suno anunciou planos para combater o avanço de faixas “spammy” geradas por IA com uma nova tecnologia de watermarking e mudanças na política de downloads. Em um post no blog, o CEO e cofundador Mikey Shulman detalhou também ferramentas de transparência e uma abordagem de fingerprinting para facilitar a identificação de conteúdos produzidos pela plataforma.
A empresa afirma que a iniciativa segue “padrões emergentes da indústria” e pretende firmar parcerias com plataformas de distribuição para reduzir fraudes e usos indevidos. O movimento se conecta a decisões recentes sobre downloads após acordos com a Warner Music Group, e pode impactar diretamente usuários e o ecossistema de distribuição ao reforçar rastreabilidade e regras de acesso.
#Suno · #IA generativa · #watermarking · #anti-spam · #direitos autorais · #transparência