Von Francis X. Maier
Geschichtsinteressierte Leser erinnern sich vielleicht an den Millennium Challenge 2002 (MC02). Für diejenigen, die ihn nicht kennen: Es handelte sich um eine hochkarätige Militärsimulation, die vor einigen Jahrzehnten vom inzwischen aufgelösten US Joint Forces Command durchgeführt wurde. Als „Schlüssel zur militärischen Transformation“ angepriesen, kostete sie rund 250 Millionen Dollar – damals eine enorme Summe für ein solches Unterfangen. Die Übung basierte auf einem bewaffneten Konflikt mit einem aufständischen Staat am Persischen Golf.
Das Blaue Team war eine kombinierte US-Streitmacht, die das Konzept der RDO, der „Rapid Decisive Operations“, erprobte. Es stützte sich auf die Doktrin der „netzwerkzentrierten Kriegsführung“ und wurde von einer breiten Palette an Informationstechnologien, Analysetools und elektronischen Sensoren unterstützt.
Das Rote Team, die Bösen, war weitgehend das Werk eines einzigen Mannes: des pensionierten Marine-Generalleutnants Paul Van Riper. Ihm wurde völlige Freiheit bei der Führung seiner Seite im Konflikt eingeräumt.
Das Kriegsspiel begann, und das Rote Team versenkte prompt einen Flugzeugträger, mehrere Kreuzer und einen Großteil der Blauen Flotte mit Schwarmangriffen niedriger Technologie. In den ersten beiden Tagen der Übung tötete es Tausende simulierte US-Soldaten. Zudem entging es immer wieder der Überwachung des Blauen Teams durch unkonventionelle und unvorhersehbare Taktiken sowie durch Ausnutzung technischer Schwachstellen des Blauen Teams.
Das Rote Team war so erfolgreich, dass die Simulation gestoppt, neu gestartet und – laut einem sehr öffentlichen und sehr verärgerten Van Riper – gezwungen wurde, sich an einen von Computern vorgegebenen Rahmen und Ausgang anzupassen, der das Blaue Team begünstigte.
Das Militär stellte Teile von Van Ripers Bericht in Frage, doch der MC02 bleibt eine dauerhafte Schande und eine Lehre über die Kosten unserer Technologieabhängigkeit. Schlimmer noch: Es ist eine nur halb verstandene Lektion. Heute, 24 Jahre später, sind unsere Technologien – und insbesondere die KI – viel ausgefeilter, leistungsfähiger und präziser. Sie sind auch teurer. Und sie weisen weiterhin technische Schwachstellen auf. Sie können im Krieg weitaus mehr Schaden anrichten. Aber sie können allein keinen entschlossenen, technologisch rückständigen Gegner vernichten, egal wie böse der Feind ist und wie verdient die Strafe erscheint.
Der Iran ist der erste Testfall.
Hochtechnologische Waffen, egal wie „intelligent“ sie sind, ersetzen niemals eine reife und moralisch geformte menschliche Führung. Es stimmt, dass das Töten eines Feindes aus der Ferne die eigene Sicherheit erhöht. Aber es macht den Akt des Tötens auch unpersönlicher und die Entscheidung zu töten viel leichter. Dass autonome Kampfdrohnen eigenständig Ziele auswählen, ist keine erbauliche Vorstellung. Doch diese Realität ist bereits Teil des heutigen Schlachtfelds.
Die Frage ist: Je fortschrittlicher unsere Werkzeuge werden, desto mehr werden sie zu einem zweischneidigen Schwert. George Parkin Grant, der große kanadische christliche Philosoph, wies darauf hin, dass die nordamerikanische Zivilisation auf eine einzigartige Weise von der Technologie abhängig ist, die einer säkularen Religion ähnelt. Dies geht auf die europäischen Siedler des Kontinents und ihre calvinistischen Wurzeln zurück, die ihres ursprünglichen christlichen Rahmens entleert wurden.
Im Kern sind wir ein Volk der Eroberung: der Eroberung und Umgestaltung der Natur, einschließlich der menschlichen Natur. Das erklärt unser Talent für Innovation und Werkzeuge. Aber je mehr wir unsere Werkzeuge nutzen, desto mehr nutzen sie uns und formen uns um, und am Ende steht eine Art Hochmut, der mit Blindheit gegenüber der Natur, Ablehnung von Grenzen, Skepsis gegenüber allem „Heiligen“ und Knechtschaft gegenüber der Macht der Technik einhergeht. So muss es nicht sein. Wir können uns anders entscheiden. Aber allzu oft und allzu leicht gehen wir schlafend in die Katastrophe.
Der MC02 erinnert uns an die Kosten, wenn wir über unsere technologiegeprägten Annahmen hinaus nichts mehr sehen, und an die daraus folgenden Konsequenzen. Deshalb dürfen wir uns bei der künstlichen Intelligenz, wenn wir keine reale Version von Skynet wollen, niemals auf eine strenge menschliche Vorausschau und eine strenge menschliche Kontrolle der KI, ihrer Entwicklung und ihrer Anwendungen verzichten.
Die KI ist da und wird nicht verschwinden. Wie sollen wir also vorgehen? Die Schrift sagt uns Dutzende Male: „Fürchtet euch nicht“. Das ist kein Vorschlag. Es ist ein Gebot. Es gibt einen Gott; Er liebt uns, und Er ist eng in unsere Angelegenheiten verwickelt. Worte wie „Apokalypse“ und „Krise“ durchziehen unseren öffentlichen Diskurs über künstliche Intelligenz und haben eine Kuckuckswirkung, die zu unbegründeter Angst einlädt. Doch im ursprünglichen Griechisch bedeutet Apokalypse einfach „Offenbarung“: die Entdeckung einer zuvor verborgenen Tatsache oder Wahrheit. Und „Krise“ kommt vom griechischen Wort krinein, das entscheiden oder urteilen bedeutet.
Trotz unserer Ängste und der Fehler der Vergangenheit gibt es nichts Fatales, Verdammtes oder unvermeidlich Katastrophales am Aufstieg der KI. Die KI ist ein Werkzeug, ein sehr mächtiges und problematisches Werkzeug, aber eben ein Werkzeug. Gott hat uns als vernunftbegabte Wesen mit freiem Willen geschaffen. Wir sind nicht machtlos. Das bedeutet, dass wir uns der KI mit der Weisheit der Erfahrung und der Klarheit eines moralisch treuen Denkens nähern müssen.
Wenn wir so vorgehen, werden die positiven Auswirkungen der KI auf Medizin, Bildung, die Unterstützung von Menschen mit Behinderungen und die Forschung in nahezu allen Bereichen enorm sein. Und wir müssen dies mit Dringlichkeit tun, denn die KI wird wahrscheinlich den sozialen, politischen, kulturellen und psychologischen Einfluss der Buchdruckkunst, der Industriellen Revolution und jeder anderen tiefgreifenden Umgestaltung des Alltagslebens, die ihr vorausging, bei weitem übertreffen. Man denke an die Ergebnisse, die Die große Transformation von Karl Polanyi und Reformations von Carlos Eire schildern, und multipliziere ihre Folgen.
Wir können einen gewissen (sehr) bescheidenen Trost in der Erfahrung der Menschheit mit der Kernspaltung finden. Wir besitzen seit über 80 Jahren Atomwaffen, ohne sie eingesetzt zu haben. Und das trotz andauernder regionaler Kriege und Phasen intensiver Rivalität zwischen Supermächten. Natürlich hatten wir zuvor bereits 120.000 Menschen in Hiroshima und Nagasaki verbrannt, und weitere 130.000 starben später an ihren Verletzungen. Eine solche Erinnerung brennt Vorsicht tief ins Bewusstsein ein. Bei der KI haben wir noch kein vergleichbar verheerendes Ereignis erlebt. Wir haben noch Zeit – wenn auch nicht viel –, um sicherzustellen, dass es niemals dazu kommt.
Letztlich sind Maschinen nicht menschlich, egal wie intelligent sie erscheinen und wie leicht wir sie vermenschlichen. Maschinen sind nicht menschlich, und sie werden es niemals sein können. Es gibt etwas Kostbares und absolut Einzigartiges in der Natur des menschlichen Wesens. Das müssen wir uns in Erinnerung rufen, bekräftigen und verteidigen – sogar vor uns selbst, vor unseren Werkzeugen und vor unseren Fantasien, auf irgendeine Weise zu kleinen Göttern zu werden.
Zum Autor
Francis X. Maier ist Senior Fellow für Katholische Studien am Ethics and Public Policy Center. Er ist Autor von True Confessions: Voices of Faith from a Life in the Church.