Die Wahrheit über den KI-Weltuntergang und virale Panik

Ein Rücktritt, der viral ging

Anfang September kündigte Jacob Coxon, zuvor Pretraining-Forscher bei OpenAI und zuletzt bei Anthropic, auf X seinen Rücktritt an. Sein Post, sinngemäß: Beide Unternehmen würden unverantwortlich handeln und geradewegs auf eine selbstverbessernde Superintelligenz zusteuern, ein Glücksspiel mit unser aller Leben. Der Beitrag kam laut verschiedenen Medienberichten – je nach Zählzeitpunkt – auf stark schwankende Zahlen zwischen rund 95 und über 160 Millionen Aufrufen, weit mehr, als die meisten Nachrichtenmeldungen an einem einzelnen Tag erreichen. Innerhalb weniger Stunden reagierten Tech-Accounts, Journalist*innen und andere KI-Forscher*innen, jede und jeder mit einer eigenen Einschätzung, wie ernst die Warnung zu nehmen sei.

Die Zahlenschlacht ohne Rechnung

Was danach passierte, beschreibt der Substack-Autor Ed Elson treffend als „The Dumbest Conversation of the Year“: Reihenweise wurden Prozentzahlen zum sogenannten „p(doom)“, der geschätzten Wahrscheinlichkeit eines KI-bedingten Weltuntergangs, durch die Timelines gereicht, oft ohne jede Herleitung. Der Anthropic-Alignment-Forscher Evan Hubinger nannte „10 Prozent oder höher“, der KI-Politik-Analyst und Prognostiker Peter Wildeford, Mitbegründer des Institute for AI Policy and Strategy (IAPS), sprach von „70 Prozent in drei Jahren“. Wichtig für die Einordnung: Das sind persönliche Einschätzungen einzelner Personen, keine offiziellen Positionen von Sam Altman, Elon Musk oder anderen Firmenchefs, wie es in der viralen Weiterverbreitung oft klang. Musk selbst äußerte in dem Zusammenhang keine eigene Prozentzahl, sondern vor allem Verschwörungsverdacht: Er schrieb auf X, die Sache wirke „wie inszeniert“ und sprach in einer Antwort an Epic-Games-Chef Tim Sweeney explizit von einem „psy op“. Sweeney selbst hatte den Vorfall zuvor als „choreographiert“ bezeichnet. Ein oft zitiertes 25-Prozent-Zitat von Anthropic-Chef Dario Amodei stammt tatsächlich aus einem völlig anderen Interview ein Jahr zuvor und wurde in der aktuellen Debatte fälschlich so dargestellt, als sei es eine Reaktion auf Coxons Post, eine zeitliche Verwechslung, die einiges über das Tempo viraler Empörung verrät.

Ein Begriff, der älter ist als der Hype

„p(doom)“ kursiert in KI-Sicherheitskreisen schon seit Jahren als eine Art Kurzformel für „Wie wahrscheinlich halte ich ein katastrophales Ausbrechen der Technologie aus menschlicher Kontrolle“, ganze Podcast-Reihen wie „Doom Debates“ drehen sich mittlerweile ausschließlich darum. Genau das macht die Zahl auch so anfällig für Missbrauch: Sie klingt nach einer präzisen wissenschaftlichen Schätzung, ist aber in den allermeisten Fällen ein persönliches Bauchgefühl mit einer Prozentzahl davor, ohne Modell, ohne Datensatz, ohne Fehlerbalken. Wie unklar selbst die Faktenlage rund um KI-Risiken für Außenstehende bleibt, zeigt sich auch daran, dass sogar ChatGPT auf die Frage nach einer möglichen KI-Weltherrschaft keine beruhigende Antwort liefert.

Warum du trotzdem hinschauen solltest

Keine dieser Prozentzahlen beruht auf einer nachvollziehbaren Methode, das ist genau Elsons Punkt. Für dich als Leser*in bedeutet das: Eine virale Zahl mit vielen Nullen dahinter ist noch lange keine wissenschaftliche Schätzung, nur weil sie von jemandem mit einem beeindruckenden Job-Titel stammt. Wer sich gerade fragt, ob KI die eigene Zukunft, den Studienplatz oder den Berufseinstieg bedroht, tut sich keinen Gefallen damit, eine unbelegte 70-Prozent-Zahl aus einem Tweet als Fakt zu verinnerlichen. Gesunder Zweifel an Panik-Prozenten ist hier die bessere Reaktion als das Nachplappern der nächsten Schlagzeile, und das gilt für Sorgen genauso wie für Entwarnung.

Foto von cottonbro studio: https://www.pexels.com/de-de/foto/person-halt-silber-kettenglied-armband-6153739/