QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para treinamentodedados

Domingo · 02 ago 2026-08-02 2 matérias
IA Destaque CEO da Fender provoca polêmica ao comparar banda e IA
Pesquisa · IA

CEO da Fender provoca polêmica ao comparar banda e IA

O CEO da Fender, Edward “Bud” Cole, voltou a gerar repercussão ao dar uma entrevista à T3 sobre música e IA. Ele afirmou que aprender covers seria uma forma “analógica” de IA e comparou a dinâmica de uma banda (ideias de um músico somadas por outros) a como um sistema de IA “treina”. As falas reacenderam críticas após a empresa enviar cartas de cessar e desistir a construtores por alegar direitos sobre a forma do corpo de modelos como a Stratocaster.

A polêmica importa porque coloca em debate a comparação entre processos criativos humanos e treinamento de modelos com conteúdo protegido. Para o público tech e dev, o caso reforça como narrativas sobre IA na música podem influenciar percepção, confiança e discussões sobre autoria, dados e impacto no aprendizado — especialmente quando a promessa de “ajudar a criar” é contestada por efeitos de desqualificação.

#IAnaMusica · #GenerativeAI · #DireitosAutorais · #TreinamentoDeDados · #Criatividade · #Música

The Verge (AI) 19:36
IA Startup tenta “pagar artistas” no AI de vídeo — será que basta?
Pesquisa · IA

Startup tenta “pagar artistas” no AI de vídeo — será que basta?

A The Verge relata a disputa em torno de IA generativa treinada com obras de artistas sem consentimento e destaca a startup Pippa, lançada em maio, que tenta mudar esse modelo. A empresa diz que compensa criadores quando o estilo usado nas imagens e clipes gerados por assinantes deriva do trabalho de um artista parceiro, com valores de US$ 0,005 por imagem e US$ 0,003 por segundo de vídeo, além de participação em um pool de royalties de 5% financiado pelas assinaturas (planos de US$ 14,99 a US$ 99,99). A Pippa afirma ter cerca de 800 assinantes pagantes e acordos com quatro artistas, em processo de expansão, com um fluxo de validação para aprovar quem pode entrar.

Apesar do discurso de “ética”, a matéria aponta que a tecnologia ainda usa modelos abertos que passam por treinamento inicial com um conjunto mais amplo de conteúdo disponível na internet — ou seja, não elimina totalmente o problema de “creative theft”. Para devs e makers, o caso reforça que “pagamento” e “consentimento” precisam andar juntos: em produtos de IA, a transparência sobre dados de treino e mecanismos de compensação tende a virar requisito prático para adoção e para reduzir riscos legais e reputacionais.

#inteligenciaartificial · #IAgenerativa · #direitosautorais · #treinamentodedados · #criadoresdeconteudo · #text-to-video · #royalties

The Verge (AI) 13:00
Sábado · 01 ago 2026-08-01 1 matéria
IA
Pesquisa · IA

IA treinando com livros impressos: “devoram” obras?

Empresas que fornecem dados para treinar modelos de IA, como a ISBNdb, têm sido apontadas como fonte para alimentar LLMs com livros impressos. A justificativa é que esses materiais seriam “mais limpos”, ajudando a reduzir problemas como AI slop e melhorando a qualidade das respostas. O lado controverso é a falta de transparência nas compras em grande escala e o receio de que exemplares sejam destruídos após a digitalização, inclusive com impactos em obras raras. O tema também reacende debates sobre origem e governança dos dados usados por sistemas generativos.

#inteligenciaartificial · #LLM · #treinamentodedados · #deeplearning · #AIslop · #digitalizacao · #livros

Tecnoblog 13:12