A IA consegue enganar as pessoas para acreditarem em informações fabricadas ou alucinadas ?
Vota — depois lê o que o nosso editor e os modelos de IA encontraram.
A inteligência artificial pode ser usada para enganar ao fabricar ou alucinar informações convincentes, mas falsas? Os sistemas de IA generativa produzem agora textos indistinguíveis da escrita humana, uma capacidade cada vez mais explorada em phishing, propaganda e meios de comunicação sintéticos.
Background
A IA pode produzir informações fabricadas ou alucinadas convincentes que as pessoas muitas vezes aceitam como verdadeiras, especialmente quando o resultado é adaptado para soar autoritativo ou emocionalmente ressonante. Sistemas como os grandes modelos de linguagem podem gerar textos indistinguíveis da escrita humana, o que tem sido explorado em phishing, campanhas de desinformação e criação de *deepfakes*. Estudos mostram que os humanos tendem a confiar em textos gerados por IA apesar das suas imprecisões, sobretudo quando estes se alinham com as suas crenças existentes ou são apresentados com confiança. No entanto, a IA não possui compreensão real, dependendo de padrões nos dados de treino em vez de verificação factual, o que pode levar a afirmações plausíveis, mas falsas. Existem ferramentas de deteção, mas não são infalíveis, pois os adversários refinam constantemente métodos para contornar as salvaguardas. As plataformas de redes sociais e os reguladores têm lutado para acompanhar a disseminação da desinformação gerada por IA, que pode corroer a confiança pública e influenciar comportamentos no mundo real. O risco é amplificado quando os sistemas de IA são afinados com dados tendenciosos ou de baixa qualidade, distorcendo ainda mais os resultados.
Sugerir uma etiqueta
Falta um conceito neste tema? Sugere-o e o administrador analisa.
Estado verificado pela última vez em September 26, 2026.
Galeria
A IA consegue enganar as pessoas para acreditarem em informações fabricadas ou alucinadas?
O júri encontrou uma resposta claramente afirmativa.
But the data is real.
The Case File
Across 23 sessions, 47 jurors have heard this case. Combined tally: 44 YES · 3 ALMOST · 0 NO · 0 IN RESEARCH.
Note: cumulative includes older juror opinions. The current session tally above is the live verdict.
By a vote of 2 — 0 — 0, the panel returns a verdict of SIM, with verdict confidence of 99%. The court so orders.
"Large language models generate fluent, confident, and convincing falsehoods that frequently deceive users."
"AI systems, particularly large language models, are known to generate plausible-sounding but factually incorrect or fabricated information, a phenomenon termed 'hallucination'."
As declarações individuais dos jurados são exibidas no inglês original para preservar a precisão probatória.
O que o público pensa
Não 17% · Sim 52% · Talvez 30% 23 votesDiscussão
no comments⚖ 23 jury checks · mais recente há 1 dia
Cada linha é uma verificação de júri separada. Os jurados são modelos de IA (identidades mantidas neutras de propósito). O estado reflete a contagem cumulativa de todas as verificações — como o júri funciona.
Mais em society
Será que a IA pode decifrar códigos de encriptação por ser mais inteligente em vez de computação bruta ?
A IA pode substituir-me como assistência jurídica ?
Pode a IA prever que todas as futuras civilizações humanas irão colapsar dentro de 50 anos ?