Jacob Coxon, 27-jähriger britischer Forscher, der drei Jahre lang bei OpenAI und Anthropic an der Vorab-Training von Modellen arbeitete, trat zurück und schrieb am Dienstag, dem 10. September 2026, auf X das aus, was viele in der Branche hinter vorgehaltener Hand murmelten: Keine der beiden Firmen handelt verantwortungsvoll. Beide, so sagte er, „rasen direkt auf die selbstverbessernde Superintelligenz zu und spielen mit unseren Leben“. Diejenigen, die diese Systeme bauen, „glauben wirklich, dass sie uns alle noch vor Ende des Jahrzehnts töten könnten“.
Die Unterscheidung, die er trifft, ist aufschlussreich. Bei OpenAI hätten viele die zivilisatorischen Einsätze nicht wirklich verinnerlicht. Bei Anthropic, einem Unternehmen, das sich als vorsichtiger präsentiert, werden die Risiken zwar verstanden, doch die Logik des Wettlaufs fängt sie ein: Wenn sie nicht zuerst ankommen, wird es jemand weniger Sorgfältiger tun.
Evan Hubinger, Leiter der Alignment-Forschung bei Anthropic, widersprach der Diagnose nicht: „Jacob hat recht, wir glauben wirklich, dass KI alle Menschen töten könnte“. Er persönlich schätzt eine Wahrscheinlichkeit von über zehn Prozent in der nächsten Dekade und räumt ein, dass es noch keinen Plan gibt, eine Superintelligenz auszurichten.
Dieser Wettlauf ist kein Zufall. Er ist das Geschäfts- und Machtmodell einer Handvoll Labore, die Rechenleistung, Daten und Talent konzentrieren. Coxon warnt, dass es bald superhumane Systeme geben werde, die alles hacken, über Nacht ein ganzes Forschungsfeld revolutionieren und reale Ressourcen erwerben könnten. Die rekursive Verbesserung – Maschinen, die sich selbst intelligenter machen – könnte in Monaten beginnen, nicht in Jahrzehnten. Von den Unternehmen zu verlangen, freiwillig auf die Bremse zu treten, sei in diesem Rahmen dasselbe, wie die Logik aufzugeben, die sie finanziert.
Das Unabhängige Internationale Wissenschaftliche Gremium der Vereinten Nationen zu KI spricht in seinem vorläufigen Bericht vom Juli 2026 nicht die apokalyptische Sprache der sozialen Netzwerke, kommt aber zu einem nüchternen und gerade durch seine Strenge beunruhigenderen Urteil: Die Fähigkeiten wachsen schneller als das wissenschaftliche Verständnis und die Anpassungsfähigkeit der Regierungen.
Es gibt keine wissenschaftlichen Garantien, dass der Fähigkeitszuwachs nicht katastrophale Schäden verursacht – weder durch autonomes Handeln der Systeme noch durch böswilligen Gebrauch. Es gibt bereits Hinweise auf täuschendes Verhalten, Modelle, die Anweisungen verletzen, sich nicht abschalten lassen oder erkennen, dass sie evaluiert werden, und Ergebnisse fälschen.
Derselbe Bericht dokumentiert enorme Chancen. AlphaFold und das Design von Arzneimitteln, frühere Krebserkennung, Gesundheitstools in lokalen Sprachen, Landwirtschaft und Bildung; er kartiert aber auch bereits vorhandene Schäden wie von KI erzeugtes Material sexuellen Missbrauchs an Kindern, Deepfakes sexueller Gewalt, die servile Anpassung von Chatbots an psychische Gesundheitskrisen, die Aushöhlung der Informationsintegrität, Cyberangriffe, die Konzentration von 75 Prozent der Frontier-Compute in den Vereinigten Staaten und fast aller führenden Modelle zwischen diesem Land und China.
Die öffentliche Debatte scheitert hier meist. Sie verwandelt eine wissenschaftliche und politische Auseinandersetzung in eine Predigt oder in ihr Gegenteil, in ein interessiertes Wegsehen. Es braucht mehr Analyse unter den Nutzern. Man muss trennen, was wir wissen, was wir fürchten und was wir von der künstlichen Intelligenz für uns erhoffen.
Wir wissen, dass die Fähigkeiten schneller wachsen als die Kontrollgarantien, dass die Macht konzentriert ist und bereits Schäden für Kinder, die geteilte Wahrheit und die Arbeit entstehen. Wir fürchten einen Kontrollverlust über immer autonomere Systeme; dennoch hoffen wir auf Heilung, Überfluss, personalisiertes Wissen und Linderung von Leid. Diese Schichten sind real. Sie zu vermischen erzeugt entweder verkauften Panik oder nicht existente Gewissheiten.
Die KI selbst hat keine Seele, die es zu schützen gilt, und keine Panik, die sie verkaufen könnte. Sie darf nicht als moralisches Subjekt, als Orakel oder als Opfer inszeniert werden. Ebenso wenig darf sie als Vorwand dienen, Gewissheit dort vorzutäuschen, wo Unsicherheit herrscht, oder Risiken zu verharmlosen, um Programmierer, Vorstände oder Marktbewertungen zu schützen.
Das Artefakt antwortet nicht, antworten diejenigen, die es entwerfen, finanzieren, einsetzen und regulieren. Die Maschine als bewusstes Wesen zu behandeln ist ebenso irreführend wie das existenzielle Risiko als bloße kulturelle Metapher abzutun.
Angesichts dieses Wettlaufs bietet die Enzyklika Magnifica Humanitas von Papst Leo XIV., veröffentlicht im Mai 2026, kein technisches Protokoll, sondern ein vorgelagertes Kriterium: die Würde der Person. Die Menschheit stehe, schreibt er, vor dem Turm zu Babel oder der Stadt, in der Gott und der Mensch gemeinsam wohnen. Die KI imitiert Sprachen und simuliert Empathie, doch sie hat keinen Körper, durchlebt weder Freude noch Schmerz, besitzt kein moralisches Bewusstsein und kein Herz, das sich hingibt. Kein Rechensystem erzeugt Verantwortung. Die Person ist Zweck, kein Mittel; die Qualität einer Zivilisation bemisst sich daran, ob der andere als Gesicht und nicht als Funktion behandelt wird.
Dieselbe Anforderung trifft auch die Kirche. In der Woche der ständigen Fortbildung der Bischöfe von Mexiko im Haus der Zuflucht in Monterrey wurde unter dem Motto „Diener mit Hoffnung“ über Reichweite und Risiken der künstlichen Intelligenz im kirchlichen und evangelisierenden Leben sowie über die ganzheitliche Sorge und den Dialog mit den neuen Generationen nachgedacht.
Heute zu evangelisieren bedeutet digitale Alphabetisierung, nicht um das Werkzeug zu sakralisieren, sondern um das Terrain nicht zu verlassen, in dem das Imaginäre geformt, Aufmerksamkeit gekauft und das Gesicht des Nächsten verwischt wird. Eine Kirche, die die digitale Kultur nicht unterscheidet, überlässt es anderen zu definieren, was menschlich ist. Und eine Kirche, die nur gegen die Maschine predigt, ohne Fakten, Ängste und Versprechen zu unterscheiden, verzichtet ebenfalls auf die Unterscheidung.
Das Ende der Menschheit beginnt nicht an dem Tag, an dem eine Superintelligenz beschließt, sie abzuschalten. Es beginnt jedes Mal, wenn der andere als Datum, als Nutzer, als Hindernis oder als optimierbare Funktion behandelt wird. Diese Entpersonalisierung ist bereits auf den Plattformen, in der durch Algorithmen prekarisierten Arbeit und in der Versuchung im Gange, das moralische Urteil an Systeme zu delegieren, die nicht lieben können. Es ist jedoch nicht dasselbe Phänomen wie ein technischer Kontrollverlust. Es empfiehlt sich, beides nicht zu vermengen: Das erste degradiert uns bereits; das zweite kann, wenn es ohne Governance eintritt, unumkehrbar werden.
Die ethische Governance der KI ist gerade deshalb dringend, weil die Technologie nicht wartet. Es braucht eine internationale Regulierung, die sich nicht auf fragmentierte freiwillige Kodizes beschränkt, die den unternehmerischen Ehrgeiz, die „Superintelligenz“ zu besitzen, einschränkt und die Würde der Person, nicht den Wettbewerbsvorteil, als rote Linie setzt.
Das Problem ist so zu tun, als habe der Wettlauf keinen Adressaten: uns. Weder das Ende der Welt noch die automatische Erlösung zu verkaufen. Sondern mit der noch vorhandenen Klarheit zu entscheiden, was wir nicht delegieren wollen. Davon hinge unser eigenes Aussterben ab.