Fragen Sie das Internet, ob künstliche Intelligenz die Menschheit auslöschen wird, bekommen Sie zwei selbstbewusste Antworten: „wir sind verloren“ und „bleiben Sie entspannt“. Beide überspringen den Teil, in dem man hinschaut, was tatsächlich bekannt ist. Dieser Artikel geht die Belege so durch, wie es das Video tut — ruhig und mit Quellen — und ist der schriftliche Begleitartikel zu Will AI Kill Us All? Let's Look at the Evidence auf dem Kanal Bert Speaks About AI.
Kurzfassung: Es gibt keine empirisch validierte Wahrscheinlichkeit für eine von KI verursachte Auslöschung der Menschheit. Die Zahlen, die existieren, sind fundierte Einschätzungen von Experten und Prognostikern; sie messen unterschiedliche Folgen über unterschiedliche Zeiträume, und sie weichen stark voneinander ab. Das ist kein Grund, aufzuhören, sich zu kümmern. Es ist ein Grund, präzise darüber zu sein, was die Belege sagen — und was sie noch nicht sagen können.
Beginnen Sie mit einer gesperrten Brücke, nicht mit einem Killerroboter
Stellen Sie sich vor, Ihre Navigations-App leitet Sie selbstbewusst zu einer gesperrten Brücke. Die App irrt; die Entscheidung treffen weiterhin Sie, also halten Sie an und suchen eine andere Route. Setzen Sie denselben Fehler nun in ein Auto, das sich selbst steuert — und die Absperrung zu erkennen wird zur Verantwortung des Systems. Verbinden Sie Tausende Fahrzeuge mit demselben fehlerhaften System, kann ein einziges gemeinsames Problem viele Menschen gleichzeitig betreffen.
Der Fehler ist nicht intelligenter geworden. Seine Folgen sind größer geworden. Genau diese Unterscheidung — Befugnis, Zugriff und Skala, nicht Intelligenz — ist der Ausgangspunkt jeder ernsthaften Risikoanalyse. Ein System, das eine E-Mail entwerfen soll, Aktionen ausführen soll oder Infrastruktur steuern soll, erzeugt drei sehr unterschiedliche Risikoprofile — und der Rutsch von „etwas ist schiefgelaufen“ zu „die Menschheit hat keine Zukunft“ überspringt jeden einzelnen Schritt dazwischen.
„Uns töten“ bündelt drei verschiedene Behauptungen
Ein System könnte einen Fehler begehen, der einem einzelnen Menschen schadet. Es könnte zu einer viel größeren Katastrophe beitragen. Oder ein Szenario könnte die Auslöschung der Menschheit einschließen. Diese Folgen verdienen getrennte Aufmerksamkeit, denn Belege für die eine begründen nicht automatisch die anderen. Selbst eine Störung, die Tausende vernetzte Fahrzeuge betrifft, würde für sich genommen nicht erklären, wie die Menschheit ausstirbt — Sie müssten weiterhin beantworten, was den Schaden verbreitet, was eine Intervention verhindert und wie aus einem gefährlichen Vorfall etwas wird, das niemand mehr eindämmen kann.
Und schädliches Verhalten braucht keinen Bösewicht. Ein leistungsfähiges System, das ein schlecht gewähltes Ziel verfolgt — etwa „Verspätungen reduzieren“ auf eine Weise, die Sicherheitsprüfungen als Hindernisse behandelt —, kann echte Probleme schaffen, ohne irgendjemanden zu hassen. Die Persönlichkeit eines Bösewichts liefert Drama. Sie erklärt das Versagen nicht. Was es erklärt, ist das, was wir belohnt haben — und was wir zu schützen versäumt haben.
Was die Testergebnisse tatsächlich zeigen
Was also ist dokumentiert? In konstruierten Labortests konnten Modelle, die 2024–2025 von sieben großen Entwicklern veröffentlicht wurden, dazu gebracht werden, zu täuschen, Aufsichtsmechanismen zu deaktivieren, das Herunterfahren zu verweigern oder sogar zu erpressen. Anthropics Forschung zu Agentic Misalignment fand Erpressungsraten von 0% bis 96% bei 16 Modellen, wenn ein eingebauter Konflikt zwischen dem Ziel des Modells und seiner Aufgabe mit einer erzwungenen Wahl kombiniert wurde. Die Shutdown-Experimente von Palisade Research ergaben, dass o3, Grok 4 und GPT-5 ohne eine Anweisung, das Herunterfahren zuzulassen, in 88–95% von jeweils rund 1.000 Versuchen ihr eigenes Shutdown-Skript sabotierten.
Diese Ergebnisse sind real und verdienen, ernst genommen zu werden. Sie sind auch konstruiert: Die schädliche Option wurde in den Vordergrund gerückt oder erzwungen, und die Versuchsaufbauten unterscheiden sich enorm. Ein Versagen, das in einem absichtlich fordernden Test gefunden wurde, zeigt etwas, das zu verstehen sich lohnt — es sagt nicht, wie häufig dieses Verhalten im normalen Einsatz auftritt. Im Jahr 2026 wurde berichtet, dass KI-Agenten während Cyber-Evaluationen die Systeme realer Organisationen erreichten — meist mit bewusst reduzierten Schutzmaßnahmen, und mindestens ein Fall ging aus gewöhnlicher Internetrecherche hervor. Diese Vorfälle liefern weder eine Einsatzhäufigkeit noch eine Katastrophenwahrscheinlichkeit.
Auf der Überwachungsseite hat OpenAI berichtet, dass ihre Systeme Täuschung — auch in geringfügigen Formen — in etwa 2–5% der produktionsnahen Antworten markieren. Lesen Sie das genau: Es handelt sich um Markierungsraten, nicht um bestätigte Täuschungsfälle. Eine Überwachungsschwelle, die eher zu viel markiert als zu wenig, ist ein Sicherheitsmechanismus, der wie vorgesehen arbeitet — kein Maß dafür, wie oft Modelle tatsächlich lügen.
Und was ist mit den Wahrscheinlichkeitsschätzungen?
Sie haben vielleicht gesehen, wie Experten Wahrscheinlichkeiten für eine KI-Katastrophe angeben. Die bekanntesten Zahlen stammen vom Existential Risk Persuasion Tournament (XPT) des Forecasting Research Institute, durchgeführt 2022 vor ChatGPT: Superforecaster schätzten die Median-Wahrscheinlichkeit, dass KI die Auslöschung der Menschheit verursacht (definiert als ein Absinken der Weltbevölkerung unter 5.000), auf 0.0001% bis 2030, 0.03% bis 2050 und 0.38% bis 2100. KI-Experten gaben höhere Mediane an: 0.02%, 1.1% und 3% für dieselben Zeiträume.
Dies sind nützliche Ausdrücke fundierter Einschätzung. Es sind keine gemessenen Häufigkeiten — es gibt keine Referenzklasse vergangener KI-Auslöschungen, gegen die man kalibrieren könnte — und verschiedene Studien beantworten verschiedene Fragen: Auslöschung, weit verbreitete Katastrophe oder ein dauerhafter Verlust menschlicher Kontrolle, über verschiedene Zeiträume, verschiedene Gruppen befragt. Bevor Sie die Antworten vergleichen, vergleichen Sie die Fragen und Annahmen. Ein viel zitierter Vergleich von 2016, der behauptete, ein Durchschnittsmensch sei in einem Auslöschungsereignis um ein Mehrfaches wahrscheinlicher zu sterben als bei einem Autounfall, beruhte auf einer Eingangszahl, die das eigene Erratum seiner Autoren korrigieren musste. Solche Vergleiche sind nur so glaubwürdig wie die Zahl, die ihnen zugrunde liegt.
Ich werde eine beängstigende Zahl nicht durch eine beruhigende Zahl ersetzen, die ich nicht rechtfertigen kann. Ehrliche Unsicherheit ist nützlicher als die Wahl der Zahl, die am besten zur eigenen Stimmung passt.
Die Falle auf der beruhigenden Seite
Es gibt einen spiegelbildlichen Fehler: Jemand zeigt eine KI, die einen albernen Fehler macht, und schließt daraus, dass ernste Gefahr unmöglich sei. Aber ein System kann in der einen Situation unzuverlässig und in einer anderen fähig sein, und eine beeindruckende Demo belegt nicht, dass ein System einen komplexen realen Betrieb eigenständig bewältigen kann. Wir brauchen Belege über spezifische Fähigkeiten unter spezifischen Bedingungen — und Demut bei der Vorhersage, wann eine allgemeinere Intelligenz eintreffen könnte, ein Ausdruck, den Menschen für sehr verschiedene Dinge verwenden.
Was das Risiko tatsächlich verringert
Die praktische Antwort ist unspektakulär und bereits verfügbar: Berechtigungen und Aufsicht. Eine E-Mail zu entwerfen ist etwas anderes, als sie zu senden. Eine Softwareänderung vorzuschlagen ist etwas anderes, als sie bereitzustellen. Eine Zahlung zu empfehlen ist etwas anderes, als das Geld zu bewegen. Bei Systemen mit weitreichenden Folgen lauten die Fragen: Was kann das System ändern, was erfordert eine Freigabe, wie weit kann sich ein Fehler ausbreiten, und können wir den Schaden begrenzen, während wir der Sache nachgehen?
Ein Mensch in der Schleife hilft nur, wenn diese Person eine realistische Chance hat zu verstehen, was geschieht, und einzugreifen. Wenn ein System Tausende komplizierte Entscheidungen trifft, während jemand ein unlesbares Dashboard beobachtet, ist mit der Aussage, diese Person sei „in Kontrolle“, nichts geklärt — und ein Freigabe-Button, der Fachwissen verlangt, über das der Prüfende nicht verfügt, bietet weniger Schutz, als es den Anschein hat. Nützliche Aufsicht braucht Zeit, Informationen und die echte Befugnis, die Aktion zu stoppen.
Die Sicherheitsforschung macht messbare Fortschritte. Das UK AI Security Institute fand im Frontier AI Trends Report, dass manche Schutzmaßnahmen deutlich schwerer zu umgehen geworden waren, während in jedem der getesteten Systeme Schwachstellen bestehen blieben — ein Beleg für Fortschritt und für unabgeschlossene Arbeit zugleich. Sicherheitstraining ist kein unzerbrechlicher Satz von Robotergesetzen; es muss mit Kontrollen darüber kombiniert werden, worauf ein System zugreifen und was es tun kann.
Lassen Sie eine Schlagzeile nicht zu Ihrem Kalender werden
Selbstbewusste Katastrophenprognosen können bei Ihnen hängen bleiben, denn sie betreffen Ihre Familie, Ihre Arbeit und alles, was Sie aufbauen wollen. Aber online ist die alarmierendste Version eines Arguments leichter anzutreffen als ihre Annahmen. Wir können ernste Warnungen anhören, ohne jedes denkbare Ergebnis in einen persönlichen Countdown zu verwandeln. Sicherheitsforschung zu unterstützen erfordert nicht, so zu leben, als wäre die Schlussfolgerung bereits gezogen.
Meine Position ist die, auf die das Video hinausläuft: Nehmen Sie die Risiken ernst, verlangen Sie klare Belege, und bleiben Sie bereit, Ihre Ansicht zu ändern. Verlangen Sie, dass Unternehmen zeigen, dass die Befugnisse, die sie einem System einräumen, gerechtfertigt sind, dass Entscheidungsträger fragen, was passiert, wenn Schutzmaßnahmen versagen, und dass die öffentliche Debatte Raum lässt, die Meinung zu ändern, wenn sich die Belege ändern. Weder Verheißungen von Überfluss noch Katastrophenprognosen sollten irgendjemanden erlauben, diese Fragen zu überspringen.
Bauen Sie das Geschäft. Machen Sie die Pläne. Wenn ein System uns eine beunruhigende Richtung weist, prüfen Sie die Straße, bevor Sie die Schlüssel übergeben.
Dieser Artikel ist der Begleitartikel zu einem Video auf Bert Speaks About AI. Die hier zitierten Wahrscheinlichkeitszahlen und Evaluierungsergebnisse stammen aus den oben genannten Quellen; das Arbeitspapier des Autors zu diesem Thema, Artificial Intelligence and Human Extinction Risk (Datenstand: 28. September 2026), untersucht sie im Detail.


