QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para Proteinas

Quarta · 30 set 2026-09-30 1 matéria
IA DeepMind cria watermark para proteínas desenhadas por IA
Pesquisa · IA

DeepMind cria watermark para proteínas desenhadas por IA

O time da DeepMind, do Google, publicou uma pesquisa com uma proposta de “protein watermarking” para lidar com riscos de biosegurança ligados a proteínas projetadas por ferramentas de IA. A ideia é criar uma marca d’água diretamente nas sequências de proteínas, sem comprometer a função do material, permitindo identificar proteínas desenhadas por pesquisadores considerados confiáveis.

O método se baseia na tecnologia SynthID, que já adiciona watermark a conteúdo digital gerado por IA ao influenciar probabilidades de escolhas do modelo. Como a marca depende de como foi codificada, ela não pode ser removida sem conhecimento prévio, e por estar distribuída ao longo da sequência tende a resistir a alterações comuns no processo de uso.

#InteligenciaArtificial · #IA · #DeepMind · #Google · #Biosecurity · #IAgenerativa · #Proteinas

Ars Technica (AI) 15:54
Sexta · 18 set 2026-09-18 1 matéria
IA Destaque Projeto AI BioDesign usa IA para criar moléculas além da natureza
Pesquisa · IA

Projeto AI BioDesign usa IA para criar moléculas além da natureza

O AI BioDesign é um projeto científico que combina inteligência artificial e experimentos de laboratório em larga escala para desenhar e testar moléculas e funções biológicas que não existem na natureza, mas que são fisicamente e quimicamente possíveis. A iniciativa busca construir bases de dados, modelos e ferramentas para acelerar o desenvolvimento de medicamentos e tecnologias futuras, com exemplos como fármacos para câncer e doenças neurodegenerativas e enzimas capazes de degradar plástico no oceano.

Liderado pelo Allen Institute, em Seattle, com a Universidade de Washington e o Fred Hutchinson Cancer Center, o programa tem David Baker como um dos principais cientistas — ele compartilhou o Nobel de Química de 2024 por seu trabalho em design computacional de proteínas. Em entrevista, Baker afirma que os riscos de explorar regiões inéditas da biologia incluem interações não intencionais com sistemas vivos e efeitos ambientais inesperados, mas que o design computacional permite avaliar e filtrar riscos antes da síntese em laboratório.

#InteligenciaArtificial · #IA · #Biodesign · #DesignDeProteinas · #Laboratorio · #Medicina · #Bioinformatica

Wired 10:30
Quinta · 06 ago 2026-08-06 1 matéria
IA Modelos de genoma com IA criam sequências de vírus em bactérias
Pesquisa · IA

Modelos de genoma com IA criam sequências de vírus em bactérias

Pesquisadores da Universidade Stanford usaram “large genome models” — modelos de IA treinados para prever sequências de DNA — para gerar genomas de vírus que infectam bactérias. Após resultados anteriores com sequências capazes de codificar proteínas funcionais, a equipe mostrou que os mesmos modelos conseguem produzir genomas virais relacionados a vírus já conhecidos, mas com características distintas difíceis de obter por evolução natural.

O trabalho sugere que, no futuro, pode ser necessário planejar riscos caso alguém desenvolva sistemas de IA capazes de projetar vírus com alvos mais amplos, incluindo vertebrados. Para o público tech, o avanço reforça como modelos generativos podem acelerar descoberta e engenharia biológica — e também aumenta a importância de governança, segurança e validação experimental.

#inteligenciaartificial · #biologiaComputacional · #modelosDeGenoma · #genomics · #biosecurity · #IAnaSaude

Ars Technica (AI) 19:04