Ein durch Künstliche Intelligenz erstellter Geheimdienstbericht hätte beinahe eine militärische Krise im Nahen Osten ausgelöst. Eine sogenannte Halluzination der Software verleitete die USA dazu, ein chinesisches Schiff abzufangen, unter der falschen Annahme, es transportiere nukleares Material. Dieser Vorfall unterstreicht die enormen Risiken, wenn nationale Sicherheit Algorithmen überlassen wird.

EILMELDUNG Internationale Sicherheit

Wenn Algorithmen über Krieg entscheiden: Beinahe-Katastrophe durch KI-Fehler

Im Frühjahr 2026 kam es zu einem gefährlichen Zwischenfall, der die Welt an den Rand einer Eskalation zwischen den beiden größten Supermächten geführt hätte. In einer Phase extremer Spannungen zwischen den USA und dem Iran planten die US-Spezialeinsatzkräfte im Pazifik das Abfangen eines chinesischen Frachtschiffs in internationalen Gewässern.

Was ist eine "KI-Halluzination"?

In der Welt der Informatik beschreibt eine Halluzination ein Phänomen, bei dem ein KI-Modell (wie ein Chatbot) Informationen generiert, die faktisch falsch sind, aber überzeugend und logisch klingen. Im vorliegenden Fall vermischte die Software offizielle Geheimdienstdaten mit öffentlichen Internetinformationen und erschuf so eine völlig fiktive Bedrohung, die von menschlichen Analysten zunächst als militärischer Fakt gewertet wurde.

Das geopolitische Spannungsfeld

  • 🚀 USA: Versuchten, die chinesische Logistik in sensiblen Zonen zu unterbinden.
  • 🚢 China: Betrieb Frachtschiffe in einer Region, die bereits durch den Krieg mit dem Iran destabilisiert war.
  • 🤖 KI: Fungierte als (fehlgeschlagener) Filter für die strategische Aufklärung.

Die militärische Reaktion

Die Situation war bereits hochgefahren: Militärflugzeuge und Elite-Truppen waren bereits im Einsatz, um das Abfangen des Schiffes zu vollziehen. Nur eine letzte menschliche Verifizierung kurz vor dem Zugriff verhinderte eine direkte militärische Konfrontation.

Variable KI-Bericht (Falsch) Realität (Verifiziert)
Ladung des Schiffes Nuklearkomponenten Nicht-nuklear / Unspezifiziert
Militärische Aktion Abfangen & Boarding Operation abgebrochen
Datenquelle KI + Web-Mix Menschliche Kontrolle

Um es zu veranschaulichen: Dies ist vergleichbar mit einem automatisierten Zollsystem, das aufgrund eines Lesefehlers einen massiven Schmuggelverdacht meldet und daraufhin bewaffnete Polizisten gegen einen unschuldigen Bürger aussendet. Auf globaler Ebene kann ein solcher "Systemfehler" jedoch den Ausbruch eines Weltkriegs bedeuten.

Quelle: Numerama / CNN