QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

4 resultados para Vetores

Domingo · 06 set 2026-09-06 1 matéria
IA Destaque Pesquisa cria método para traduzir embeddings sem dados pareados
Pesquisa · IA

Pesquisa cria método para traduzir embeddings sem dados pareados

Uma pesquisa apresenta um método para traduzir embeddings de texto entre espaços vetoriais diferentes sem dados pareados, sem encoders e sem conjuntos pré-definidos de correspondências. O trabalho propõe uma abordagem não supervisionada que mapeia embeddings para uma representação latente universal, descrita como uma estrutura semântica conjecturada pela Platonic Representation Hypothesis, preservando a geometria dos vetores. Os autores relatam alta similaridade cosseno entre modelos com arquiteturas, tamanhos de parâmetros e conjuntos de treino distintos.

A capacidade de converter embeddings desconhecidos para outro espaço mantendo sua estrutura é apontada como relevante para a segurança de bases vetoriais. O texto destaca que um adversário que tenha acesso apenas aos vetores pode extrair informações sensíveis dos documentos, o suficiente para classificação e inferência de atributos.

#InteligenciaArtificial · #IA · #MachineLearning · #Embeddings · #Vetores · #SegurancaDeDados · #VectorDatabases

Hacker News 20:31
Quarta · 02 set 2026-09-02 1 matéria
IA Pesquisa no arXiv sugere estrutura simbólica emergente em redes neurais e LLMs
Pesquisa · IA

Pesquisa no arXiv sugere estrutura simbólica emergente em redes neurais e LLMs

Um trabalho no arXiv propõe que redes neurais, apesar de operarem com vetores contínuos, podem desenvolver internamente uma estrutura simbólica. Os autores mostram que representações vetoriais de diferentes redes neurais podem ser aproximadas por estruturas simbólicas, permitindo substituir o processo de geração de representações por uma equação de forma fechada sem alterar significativamente o comportamento. O estudo inclui desde redes menores treinadas para manipular listas até grandes modelos de linguagem (LLMs) em domínios como aritmética, lógica, código e linguagem.

A pesquisa também indica que intervenções precisas nas representações internas de um LLM conseguem modificar seu comportamento de forma direcionada. Com isso, os resultados sugerem que a atuação do modelo depende das estruturas simbólicas identificadas, ajudando a aproximar visões tradicionais de inteligência baseada em símbolos do funcionamento vetorial dos sistemas modernos.

#InteligenciaArtificial · #IA · #RedesNeurais · #LLM · #IAgenerativa · #arXiv · #AprendizadoProfundo

Hacker News 04:15
Quinta · 06 ago 2026-08-06 1 matéria
IA IA projeta vírus inéditos e faz cópias em laboratório pela 1ª vez
Pesquisa · IA

IA projeta vírus inéditos e faz cópias em laboratório pela 1ª vez

Pesquisadores do Arc Institute, na Califórnia, usaram um modelo de IA chamado Evo para desenhar vírus que não existem na natureza e demonstrar que eles conseguem se replicar. O sistema foi treinado com cerca de 9 trilhões de nucleotídeos de milhões de organismos e, após um novo ajuste para o bacteriófago Phi X-174, gerou cerca de 700 mil sequências potenciais; 285 foram sintetizadas e testadas em laboratório. No fim, 16 genomas projetados pela IA produziram vírus viáveis e capazes de infectar outras bactérias, com alguns se multiplicando até mais rápido que o vírus natural.

O avanço pode acelerar aplicações em biotecnologia e medicina, como o desenvolvimento de vetores para terapias gênicas. Ao mesmo tempo, reacende preocupações de biossegurança: especialistas apontam que modelos capazes de gerar genomas podem, no futuro, ser usados para criar variantes mais perigosas, e cobram mecanismos regulatórios e avaliação de risco mais alinhados ao ritmo da IA na área biológica.

#inteligenciaartificial · #biosseguranca · #biotecnologia · #medicina · #genetica · #Science

Olhar Digital 19:40
Sábado · 01 ago 2026-08-01 1 matéria
IA Destaque Pesquisadores propõem atenção LLM com “células” em estado persistente
Pesquisa · IA

Pesquisadores propõem atenção LLM com “células” em estado persistente

Uma pesquisa apresenta um framework formal para operadores de atenção em Large Language Models usando Persistent State Machines (PSMs), com provas matemáticas para limites de erro de quantização e uma construção discreta do Softmax sob hipótese de logits limitados. A proposta também é validada com implementação em FPGA: um array de 1024 células em Zynq-7000 (xc7z020) e uma integração em SoC com PCIe no UltraScale+ (xcvu9p), incluindo interconexões AMBA AXI4 e ponte PCIe Gen3 via XDMA. Nos testes, a lógica fechou timing a 62,5 MHz (WNS +1,854 ns) e a simulação com mais de mil vetores aleatórios bateu bit a bit com uma referência em software fix-point.

O que muda na prática é a tentativa de tornar a atenção mais “hardware-friendly”, usando transições locais determinísticas em células estacionárias e gating para reduzir comutação ativa. Para devs/tech, isso sinaliza caminhos para acelerar e baratear inferência de LLM em dispositivos programáveis, com foco em eficiência energética e escalabilidade — embora os números de energia sejam estimativas de ferramenta, não medições em placa.

#LLM · #atenção · #FPGA · #quantização · #Softmax discreto · #hardware acceleration · #state machines

Hacker News 01:01