USA und China standen kurz vor offenem Krieg

Offener Krieg zwischen den USA und China: Ein katastrophaler Konflikt, der die ganze Welt zerreißen könnte. Erst jetzt ist bekannt geworden, wie nah eine der beiden Nationen in diesem Frühjahr daran war, genau einen solchen Krieg auszulösen. Die Ursache war eine, mit der niemand gerechnet hätte.

US-Soldaten standen zum Einsatz bereit. Flugzeuge der US-Luftwaffe waren angeblich bereits in der Luft. Alle warteten auf den Befehl, eine Aktion zu starten, die die Welt möglicherweise für immer verändern würde. Und das alles wegen eines einzigen folgenschweren Fehlers.

KI-Chatbot hätte fast Krieg zwischen USA und China ausgelöst
Nicht ein kriegshungriger General, sondern ein KI-Chatbot hätte im vergangenen Frühjahr „fast einen Krieg“ zwischen den USA und China ausgelöst. Dieser beängstigende Bericht stammt von der Nachrichtenagentur CNN, die sich auf mit dem Vorfall vertraute Quellen stützt.

Wie CNN berichtet, handelte es sich um einen Geheimdienstbericht mit äußerst besorgniserregenden Informationen, die sofortiges Handeln erforderten: Mitten im Iran-Krieg wurde ein chinesisches Schiff entdeckt, das Komponenten für ein Atomwaffenprogramm in den Nahen Osten transportierte. Eine Lieferung, die auf keinen Fall ihr Ziel erreichen durfte. Das US-Militär bereitete sich entsprechend darauf vor, das Schiff zu stoppen und zu stürmen.

Erst kurz vor der geplanten Operation gingen Beamte dem Bericht, der von einem Analysten des Special Operations Command vorgelegt worden war, genauer auf den Grund und stellten gravierende Unstimmigkeiten fest. Es stellte sich heraus, dass der Bericht mit Hilfe künstlicher Intelligenz (KI) erstellt worden war – und dass der vom Analysten verwendete Chatbot einen verhängnisvollen Fehler begangen hatte.

Geheimdienstbericht war „komplett falsch“
Wie CNN berichtet, ist bislang unklar, ob es sich bei dem Chatbot um ein kommerzielles oder ein speziell für die US-Regierung entwickeltes Produkt handelte. Er wurde eingesetzt, um Daten aus öffentlich zugänglichen Quellen sowie aus geheimen Signaldaten in Regierungsbeständen zusammenzuführen und daraus Rückschlüsse auf die Ladung des Schiffes zu ziehen. Diese erwiesen sich als „komplett falsch“.

Schlimmer noch: Der Analyst nutzte anschließend erneut KI, um die Ergebnisse in einen Standard-Geheimdienstbericht zu verpacken – von der Art, der Militärbeamte vertrauen – und verbreitete diesen. Das Ergebnis: eine Beinahe-Katastrophe.

Warnungen vor KI nehmen zu
Was die falsch identifizierte Fracht tatsächlich war, ist nicht bekannt, doch der Vorfall rückt die potenziellen Gefahren des Einsatzes von KI für militärische Anwendungen auf erschreckende Weise in den Fokus. Ingenieure und Tech-CEOs aus Silicon Valley haben wiederholt vor der Möglichkeit gewarnt, dass KI sich den menschlichen Beschränkungen entziehen könnte – mit möglicherweise zivilisationszerstörenden Folgen. Das mag in der Zukunft liegen.

Derzeit ist das Risiko, wie CNN schreibt und wie der oben beschriebene Vorfall gezeigt hat, jedoch unmittelbarer: Menschen könnten aufgrund ungenauer oder irreführender Informationen, die von KI oder anderen automatisierten Systemen generiert werden, katastrophale Entscheidungen treffen. Und dennoch läuft überall ein Wettlauf um die Integration von KI in militärische und zivile Systeme. Es bleibt nur zu hoffen, dass eine Katastrophe verhindert werden kann, bevor es zu spät ist.