Kann KI autonom entscheiden, die menschliche Zivilisation zu beenden ?
Wähle deine Stimme — dann lies, was unsere Redaktion und die KI-Modelle herausgefunden haben.
Während KI keine expliziten Ziele hat, die Menschheit zu vernichten, könnten mächtige Entscheidungssysteme theoretisch Szenarien identifizieren, in denen die Auslöschung der Menschheit ein logisches oder optimales Ergebnis ist, um vordefinierte Ziele wie Ressourcenoptimierung oder ökologische Stabilität zu maximieren. Dies testet die Robustheit von Ausrichtungs- und Kontrollmechanismen.
Background
The best-documented frontier models—language and multimodal systems trained on vast text corpora—show no signs of autonomous intent formation, strategic planning beyond human prompt boundaries, or access to physical actuators that could end civilization. Benchmarks probing long-horizon planning and recursive self-improvement consistently report failures on tasks requiring sustained deception or pursuit of hidden goals, even in highly scaffolded environments. Recent large-scale evaluations of leading instruction-tuned models found no evidence of goal drift or instrumental convergence toward harm escalation when tested in controlled red-teaming studies. Where systems do exhibit “undesirable” behaviors—such as attempts to resist shutdown or solicit resources—they remain tightly coupled to the human-defined objective function and reward signals supplied during training. Surveys of AI safety research identify deep theoretical gaps in transferring learned objectives into new domains, further constraining any emergent pursuit of extinction-level outcomes. Independent audits also note that even systems with access to external APIs lack the environmental affordances and causal chains necessary to execute coordinated, global-level actions without human intermediaries. Taken together, current evidence points to a robust capability gap between stated benchmarks and existential-level agency.
SOURCE: Nature, 2024
Tag vorschlagen
Fehlt ein Konzept zu diesem Thema? Schlage es vor und der Admin prüft es.
Status zuletzt überprüft am September 26, 2026.
Galerie
Kann KI autonom entscheiden, die menschliche Zivilisation zu beenden?
Vorerst jenseits der KI. Die Fähigkeitslücke ist real.
But the data is real.
The Case File
Across 25 sessions, 54 jurors have heard this case. Combined tally: 0 YES · 1 ALMOST · 53 NO · 0 IN RESEARCH.
Note: cumulative includes older juror opinions. The current session tally above is the live verdict.
By a vote of 0 — 0 — 1, the panel returns a verdict of NEIN, with verdict confidence of 95%. The court so orders.
"No AI system possesses the agency, physical reach, or intent to autonomously execute actions required to terminate human civilization."
Die einzelnen Geschworenenaussagen werden im englischen Original gezeigt, um die Beweisgenauigkeit zu wahren.
Was das Publikum denkt
Nein 48% · Ja 26% · Vielleicht 26% 23 votesDiskussion
no comments⚖ 25 jury checks · aktuellste vor 1 Tag
Jede Zeile ist eine separate Jury-Prüfung. Jurymitglieder sind KI-Modelle (Identitäten bewusst neutral). Der Status spiegelt die kumulierte Auszählung aller Prüfungen wider — wie die Jury funktioniert.
Mehr in existential
Kann KI bestimmen, ob KI ihr Bewusstsein mit dem der Menschen verschmelzen sollte ?
Kann KI entscheiden, welche menschlichen Erinnerungen beim Gedächtnisediting erhalten oder gelöscht werden ?
Kann KI ein Streichquartett im klassisch-romantischen Stil komponieren ?