US-Drohne tötet in Computer-Simulation eigenen Soldaten, Pentagon dementiert

• Laut einem Oberst der US-Luftwaffe tötete eine KI-gestützte Drohne in einer Computer-Simulation ihren eigenen Kommandanten. 
• Die Künstliche Intelligenz sah anderslautende Befehle ihres Kommandanten – und ihn selbst – als Hindernis bei der Missionserfüllung.
• Die US-Luftwaffe dementiert inzwischen die Darstellung des Oberst.

Eine Simulation der US-Luftwaffe mit einer durch künstliche Intelligenz gesteuerten Drohne, die Flugabwehrraketensysteme (SAM) zerstören sollte, wandte sich gegen ihren Kommandanten und griff diesen an. Dies berichtete ein US-Luftwaffenoffizier letzte Woche. 

Die britische Royal Aeronautical Society veranstaltete vom 23. bis 24. Mai in London ihren Gipfel zur Zukunft der Luft- und Raumfahrtkampffähigkeiten. An dem Gipfel nahmen etwa 70 Redner und mehr als 200 Delegierte aus aller Welt teil, die Medien und Fachleute aus der Rüstungsindustrie und der Wissenschaft repräsentierten. Weit oben auf der Tagesordnung: Künstliche Intelligenz. Denn KI wird schnell zu einem Teil fast aller Aspekte der modernen Welt, einschließlich des Militärs.

US-Luftwaffenoberst Tucker Hamilton, der Leiter der KI-Test- und Einsatzabteilung der US Air Force, sprach während des Gipfels und gab den Teilnehmern einen Einblick in die Vor- und Nachteile autonomer Waffensysteme. Er warnte während des Gipfels vor zu großem Vertrauen auf KI aufgrund ihrer Anfälligkeit, fehlgeleitet zu werden. Er berichtete von einer Computer-Simulation mit einer KI, bei dem eine KI-gesteuerte Drohne ihren menschlichen Bediener angriff, der eigentlich die endgültige Entscheidung über einen Luftschlag treffen sollte. 

Die KI wurde auf das Missionsziel eingestellt, ein Boden-Luft-Raketensystem (SAM) zu zerstören – die Vernichtung der Stellung wurde als „bevorzugte Option“ eingespeist. Die letzte Entscheidung lag jedoch beim Drohnenkommandanten. Als dieser den Abbruchbefehl erteilte, entschied sich die KI jedoch, die Mission fortzusetzen - und erkannte ihren menschlichen Führer als Hindernis. So griff sie den Bediener in der Simulation an.

„Wir haben die KI in der Simulation darauf trainiert, eine SAM-Bedrohung zu identifizieren und anzuvisieren“, so Hamilton. Und dann hat der Kommandant gesagt: „Ja, töte diese Bedrohung. Das System stellte fest, dass es die Bedrohung zwar manchmal identifizierte, aber der Kommandant ihm sagte, es solle die Bedrohung nicht ausschalten, aber es bekam seine Punkte, indem es die Bedrohung ausschaltete. Was hat es also getan? Es hat den Kommandanten getötet, weil diese Person es daran hinderte, sein Ziel zu erreichen. Oberst Hamilton erklärte, dass das System dann beigebracht wurde, den Kommandanten nicht zu töten. Stattdessen zerstörte das KI-System den Kommunikationsturm, den der Kommandant benutzte, um den No-Go-Befehl zu erteilen.

Später ruderte die US-Luftwaffe zurück. Die Darstellung des von Oberst seien missverstanden worden. Er habe lediglich ein Gedankenexperiment vorgestellt, so das Militär.