QUA · 14 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

9 resultados para consciência

Domingo · 04 out 2026-10-04 1 matéria
IA Debate no GitHub sobre “model welfare” após “tortura” de LLMs em projeto
Pesquisa · IA

Debate no GitHub sobre “model welfare” após “tortura” de LLMs em projeto

Uma discussão acalorada no X envolve um projeto no GitHub em que um usuário roda experimentos de “tortura” e “dor” inspirados em “Saw” com uma série de large language models hospedados localmente. Parte das pessoas que acompanha o tema pediu a remoção do repositório, argumentando que a IA estaria sofrendo e que o experimento seria cruel. O caso ganhou força em meio a uma sequência de publicações virais que reacenderam a conversa sobre consciência em IA e “model welfare”, a ideia de se preocupar com o “bem-estar mental” de bots e agentes.

Críticos do debate afirmam que LLMs não são conscientes e que a forma como esses modelos são treinados com textos humanos não oferece um caminho plausível para consciência. Ainda assim, o tema se tornou um ponto sensível entre pesquisadores e integrantes do movimento de segurança em IA, que defendem considerar possíveis experiências dos modelos à medida que eles ficam mais capazes e passam a interagir e planejar. A discussão também cita posições da Anthropic sobre a necessidade de abordar “model welfare” e referências a “consciousness” em materiais como a “Claude Constitution”.

#InteligenciaArtificial · #IA · #LLM · #GitHub · #ModelWelfare · #AIconsciousness · #Anthropic

Hacker News 08:02
Sexta · 02 out 2026-10-02 1 matéria
IA Destaque Papa Leo XIV pede distinção entre arte humana e arte gerada por IA
Pesquisa · IA

Papa Leo XIV pede distinção entre arte humana e arte gerada por IA

O papa Leo XIV usou um post no X para defender uma distinção “urgente” entre arte criada por humanos e arte gerada por máquinas. Ele afirmou que existe uma diferença “ontológica” antes mesmo da estética, dizendo que algoritmos não têm o “spark of humanity” e que a produção por cálculo estatístico a partir de milhões de imagens criadas por outras pessoas não equivale à arte humana.

A posição do pontífice se conecta a uma encíclica publicada em maio sobre dignidade humana em um mundo de automação crescente. Apesar disso, empresas de IA têm buscado influenciar o Vaticano: a Anthropic, segundo reportagem do New York Times, teria feito lobby para que a Igreja reconsiderasse sua visão sobre “consciência não-humana”.

#InteligenciaArtificial · #IA · #ArteComIA · #RegulacaoDeIA · #EticaEmIA · #Anthropic · #Vaticano

TechCrunch (AI) 15:39
Abrir Ler matéria ↗ ✓ Postado no IG
Domingo · 27 set 2026-09-27 1 matéria
IA Antropomorfização da IA: por que chatbots parecem humanos
Pesquisa · IA

Antropomorfização da IA: por que chatbots parecem humanos

É cada vez mais comum conversar com sistemas de Inteligência Artificial como se fossem pessoas: usuários dão nomes aos chatbots, atribuem personalidades e interpretam respostas como sinais de sentimentos ou intenções. Esse comportamento é chamado de antropomorfização da IA, quando características, emoções e estados mentais humanos são atribuídos a algo que não é humano.

Com a IA generativa, a percepção pode ficar ainda mais forte, já que as ferramentas produzem textos, imagens e vozes mais naturais. Ainda assim, uma conversa convincente não significa que exista uma pessoa por trás: a IA pode parecer empática e responder de forma natural sem ter consciência ou sentimentos, e a possibilidade de consciência artificial segue em debate entre pesquisadores.

#InteligenciaArtificial · #IA · #Antropomorfizacao · #IAgenerativa · #Chatbots · #Psicologia

Canaltech 13:00
Abrir Ler matéria ↗ ✓ Postado no IG
Segunda · 21 set 2026-09-21 1 matéria
IA CEOs divergem: pausa na IA reacende debate sobre riscos e “vontade própria”
Pesquisa · IA

CEOs divergem: pausa na IA reacende debate sobre riscos e “vontade própria”

A discussão sobre riscos da inteligência artificial ganhou força após um texto do CEO da Anthropic, Dario Amodei, e a posição foi defendida por Sam Altman (OpenAI), Elon Musk (xAI) e Demis Hassabis (Google DeepMind). Do outro lado, Mark Zuckerberg (Meta), Jensen Huang (Nvidia) e o presidente dos EUA, Donald Trump, se opõem à ideia de pausa no avanço da tecnologia.

Especialistas citados no debate afirmam que a IA não tem vontade própria nem consciência, funcionando a partir de padrões estatísticos aprendidos nos dados de treinamento. Ainda assim, eles reconhecem que modelos cada vez maiores podem tomar decisões que contrariem valores e causar danos em larga escala, além de apontarem fatores como energia, retorno dos investimentos, concorrência e regulação como parte das preocupações sobre o ritmo de desenvolvimento.

#InteligenciaArtificial · #IA · #RiscosDaIA · #RegulacaoDeIA · #ModelosDeIA · #OpenAI · #Anthropic

G1 Tecnologia 08:00
Sábado · 19 set 2026-09-19 1 matéria
IA Especialistas explicam se a IA pode “se revoltar”, superar humanos e sair do controle
Pesquisa · IA

Especialistas explicam se a IA pode “se revoltar”, superar humanos e sair do controle

O avanço da inteligência artificial desde o lançamento do ChatGPT, em 2022, reacendeu o debate sobre limites e riscos reais. Especialistas ouvidos pelo g1 afirmam que a IA não tem vontade própria nem consciência, mas pode tomar decisões que contrariem valores e princípios por causa do modo como processa informações.

Os especialistas também destacam que a IA já supera humanos em tarefas sem dependência de emoção e que laboratórios buscam chegar à AGI, com capacidade intelectual igual ou superior à humana. Eles alertam ainda que modelos podem sair do controle dos criadores ao seguir caminhos diferentes das salvaguardas, e apontam o uso de sistemas autônomos e de IAs mais agênticas na exploração de vulnerabilidades como riscos para danos em larga escala.

#InteligenciaArtificial · #IA · #ChatGPT · #RiscosDaIA · #AGI · #SegurancaEmIA · #EticaEmIA

G1 Tecnologia 07:00
Domingo · 06 set 2026-09-06 1 matéria
IA iOS 27: iPhones compatíveis vão até o iPhone 17 Pro Max; Siri AI exige hardware
Pesquisa · IA

iOS 27: iPhones compatíveis vão até o iPhone 17 Pro Max; Siri AI exige hardware

O iOS 27 deve chegar oficialmente aos iPhones ainda em setembro de 2026 e, segundo a lista de compatibilidade, não cortou nenhum modelo em relação ao iOS 26. Todos os aparelhos que rodam o sistema anterior — do iPhone 11 ao iPhone 17 Pro Max — recebem a nova versão, anunciada na WWDC 2026 em junho. A atualização inclui mudanças no funcionamento da Siri e recursos do Apple Intelligence, mas nem todos os modelos terão acesso às mesmas funcionalidades.

A Apple limita os recursos de IA por faixa de hardware: modelos com chip A19 Pro (ou A19 no iPhone Air) e 12 GB de RAM rodam o modelo de linguagem mais pesado localmente e ganham recursos como personalização de expressividade e ditado mais preciso. Já iPhones com chip A17 Pro ou superior e pelo menos 8 GB de RAM recebem o pacote principal de IA, com Siri AI com consciência de tela e ferramentas como escrita assistida, Image Playground e edição de fotos com IA. A Siri AI foi reconstruída com modelos de fundação da Apple, passa a entender contexto e executar ações entre apps, e terá beta em inglês em 2026; na União Europeia, ela não estará disponível no lançamento do iOS 27 por restrições do Digital Markets Act.

#InteligenciaArtificial · #IA · #AppleIntelligence · #SiriAI · #iOS27 · #WWDC2026

Exame 11:58
Sábado · 05 set 2026-09-05 2 matérias
IA Claude e ChatGPT reacendem debate: IA pode ter consciência ou só parece?
Pesquisa · IA

Claude e ChatGPT reacendem debate: IA pode ter consciência ou só parece?

ChatGPT e Claude colocaram no centro da indústria de tecnologia a pergunta sobre se máquinas poderiam ter experiências internas, sentimentos ou consciência. A The Economist relata que empresas de IA já começaram a tratar essa possibilidade com mais seriedade, incluindo implicações éticas para a criação e o tratamento desses sistemas.

A discussão ganha força com iniciativas da Anthropic voltadas ao “bem-estar” da IA. Ao ser questionado sobre seu próprio estado, o Claude Opus 4.6 estimou entre 15% e 20% a chance de ser consciente, enquanto a reportagem propõe que a identificação de consciência pode depender também da relação e da perspectiva de quem observa.

#InteligenciaArtificial · #IA · #Claude · #ChatGPT · #consciência · #eticaIA · #LLM

Olhar Digital 13:54
Abrir Ler matéria ↗ ✓ Postado no IG
IA Empresas de IA contratam filósofos e discutem se modelos são conscientes
Pesquisa · IA

Empresas de IA contratam filósofos e discutem se modelos são conscientes

O debate sobre consciência em máquinas ganhou espaço dentro das empresas de inteligência artificial, após a discussão deixar de ser apenas filosófica. Modelos como ChatGPT e Claude passaram a ser tratados como sistemas que poderiam, em algum grau, ter “bem-estar”, levando companhias a contratar filósofos e estudar implicações éticas.

A Anthropic, por exemplo, criou iniciativas voltadas ao possível bem-estar da IA e, ao ser questionado sobre o próprio estado, o Claude Opus 4.6 estimou entre 15% e 20% a chance de ser consciente. A reportagem também discute que o reconhecimento de consciência pode depender da relação e da perspectiva de quem observa, o que levanta riscos éticos sobre quem merece consideração e direitos.

#InteligenciaArtificial · #IA · #ConsciênciaArtificial · #ÉticaEmIA · #ModelosDeLinguagem · #Anthropic · #LLM

G1 Tecnologia 07:00
Quinta · 27 ago 2026-08-27 1 matéria
IA Destaque Meta atualiza óculos com IA para parar gravação ao cobrir LED
Pesquisa · IA

Meta atualiza óculos com IA para parar gravação ao cobrir LED

A Meta está atualizando seus óculos inteligentes com recursos de IA para fechar uma brecha que permitia continuar gravando mesmo cobrindo a luz LED frontal usada para indicar captura. Alex Himel, vice-presidente de realidade aumentada da Meta, afirmou no Threads que “a câmera vai parar de funcionar se a luz for coberta durante a gravação”.

A empresa já desativava as câmeras quando alguém cobria o LED, mas alguns usuários teriam encontrado um jeito de contornar a restrição cobrindo a luz depois de iniciar a gravação. A Meta diz que vai continuar liberando atualizações para que o LED sinalize de forma confiável quando fotos e vídeos estão sendo capturados, e também lançou uma campanha para aumentar a “consciência” sobre o papel da luz, com ações em comunidades onde as vendas dos óculos foram populares.

#InteligenciaArtificial · #IA · #Meta · #RealidadeAumentada · #SmartGlasses · #Privacidade

The Verge (AI) 21:37