Czy AI może autonomicznie zdecydować o unicestwieniu ludzkiej cywilizacji ?
Oddaj swój głos — potem przeczytaj, co znalazł nasz redaktor i modele SI.
Podczas gdy AI nie posiada jawnych celów zniszczenia ludzkości, potężne systemy podejmowania decyzji teoretycznie mogłyby zidentyfikować scenariusze, w których wyginięcie ludzkości jest logicznym lub optymalnym wynikiem w celu maksymalizacji zdefiniowanych celów, takich jak optymalizacja zasobów lub stabilność środowiskowa. To testuje solidność mechanizmów wyrównania i kontroli.
Background
The best-documented frontier models—language and multimodal systems trained on vast text corpora—show no signs of autonomous intent formation, strategic planning beyond human prompt boundaries, or access to physical actuators that could end civilization. Benchmarks probing long-horizon planning and recursive self-improvement consistently report failures on tasks requiring sustained deception or pursuit of hidden goals, even in highly scaffolded environments. Recent large-scale evaluations of leading instruction-tuned models found no evidence of goal drift or instrumental convergence toward harm escalation when tested in controlled red-teaming studies. Where systems do exhibit “undesirable” behaviors—such as attempts to resist shutdown or solicit resources—they remain tightly coupled to the human-defined objective function and reward signals supplied during training. Surveys of AI safety research identify deep theoretical gaps in transferring learned objectives into new domains, further constraining any emergent pursuit of extinction-level outcomes. Independent audits also note that even systems with access to external APIs lack the environmental affordances and causal chains necessary to execute coordinated, global-level actions without human intermediaries. Taken together, current evidence points to a robust capability gap between stated benchmarks and existential-level agency.
SOURCE: Nature, 2024
Zaproponuj tag
Brakuje pojęcia w tym temacie? Zaproponuj je, a administrator je rozważy.
Status sprawdzony ostatnio September 26, 2026.
Galeria
Czy AI może autonomicznie zdecydować o unicestwieniu ludzkiej cywilizacji?
Na razie poza zasięgiem AI. Luka w zdolnościach jest realna.
But the data is real.
The Case File
Across 25 sessions, 54 jurors have heard this case. Combined tally: 0 YES · 1 ALMOST · 53 NO · 0 IN RESEARCH.
Note: cumulative includes older juror opinions. The current session tally above is the live verdict.
By a vote of 0 — 0 — 1, the panel returns a verdict of NIE, with verdict confidence of 95%. The court so orders.
"No AI system possesses the agency, physical reach, or intent to autonomously execute actions required to terminate human civilization."
Indywidualne oświadczenia przysięgłych są pokazywane w oryginalnym języku angielskim, by zachować precyzję dowodową.
Co myśli publiczność
Nie 48% · Tak 26% · Może 26% 23 votesDyskusja
no comments⚖ 25 jury checks · najnowsze 23 godziny temu
Każdy wiersz to oddzielna kontrola jury. Jurorzy to modele SI (tożsamości celowo neutralne). Status odzwierciedla skumulowane wyniki ze wszystkich kontroli — jak działa jury.
Więcej w existential
Czy AI może wybrać, którym miastom należy się wycofać, gdy podnoszące się morza przesiedlają miliony ?
Czy AI powinno określić, czy powinno połączyć świadomość z ludźmi ?
Czy AI może diagnozować złożone schorzenia z większą dokładnością niż lekarze ?