QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

3 resultados para armasAutonomas

Terça · 22 set 2026-09-22 1 matéria
IA Guterres pede regulação da IA e alerta para armas autônomas na ONU
Pesquisa · IA

Guterres pede regulação da IA e alerta para armas autônomas na ONU

António Guterres abriu a 81ª Assembleia Geral da ONU com um discurso de despedida e comparou as divisões do mundo a fraturas que viraram abismos. Ao falar sobre tecnologia, ele alertou que sistemas de armamento capazes de operar sozinhos já saíram do cinema e chegaram aos campos de batalha, enquanto a governança ainda não acompanha essa realidade.

Guterres também mencionou a necessidade de reduzir a distância entre avanço tecnológico e regras globais e citou a busca por uma regulação coordenada da IA para evitar que a tecnologia amplie desigualdades. O secretário-geral ainda reforçou que, após deixar o cargo em 1º de janeiro, seguirá defendendo os princípios da Carta da ONU.

#InteligenciaArtificial · #IA · #RegulacaoDeIA · #armasAutonomas · #ONU · #GovernancaTecnologica

Exame 10:46
Domingo · 30 ago 2026-08-30 1 matéria
IA Drone autônomo com chip Nvidia matou civis em Zaporizhzhia, diz Kiev
Pesquisa · IA

Drone autônomo com chip Nvidia matou civis em Zaporizhzhia, diz Kiev

Autoridades ucranianas afirmam que um drone autônomo, controlado por inteligência artificial, atacou e explodiu um posto de combustível em Zaporizhzhia, no leste da Ucrânia, em 6 de julho, matando três civis. Segundo Kiev, o equipamento teria tomado a decisão de atacar sem interferência direta de um operador humano, e a conclusão foi baseada em exames forenses dos destroços.

O drone usaria um chip de IA fabricado pela Nvidia, pré-programado para atacar um alvo, mas que teria escolhido de forma autônoma o local exato do impacto, provavelmente tanques de gás propano. O caso reacende o debate ético sobre armas autônomas e levou a ONU e o Comitê Internacional da Cruz Vermelha a defenderem limites e proibições para sistemas que identificam e atacam alvos sem comando humano direto.

#InteligenciaArtificial · #IA · #IAgenerativa · #Drones · #ArmasAutonomas · #SegurancaDigital · #EticaNaIA

G1 Tecnologia 07:01
Quarta · 26 ago 2026-08-26 1 matéria
IA Ucrânia diz que drone autônomo com IA matou civis em Zaporizhzhia
Pesquisa · IA

Ucrânia diz que drone autônomo com IA matou civis em Zaporizhzhia

Autoridades ucranianas afirmam que, em 6 de julho, um drone autônomo controlado por inteligência artificial atacou e explodiu um posto de combustível em Zaporizhzhia, no leste da Ucrânia, matando três civis. Kiev diz que o equipamento teria decidido o ataque sem interferência de um operador humano e que equipes forenses analisaram os destroços para concluir que o sistema usou recursos de IA.

O drone, segundo os militares, trazia um chip de inteligência artificial da Nvidia, pré-programado para atacar o alvo, mas que teria escolhido de forma autônoma o local exato do impacto, possivelmente tanques de gás propano. Críticos apontam riscos éticos por falhas de identificação e possíveis violações do direito internacional, enquanto ONU e Comitê Internacional da Cruz Vermelha pediram limites e proibições para armas autônomas, sem confirmar o uso em combate.

#InteligenciaArtificial · #IA · #drones · #armasAutonomas · #Nvidia · #seguranca · #eticaIA

G1 Tecnologia 08:03