[ziesell]

US Air Force: KI-Drohne bringt in Simulation menschlichen Befehlshaber um

In einem virtuellen Test griff eine KI-gestützte Drohne zu drastischen Mitteln, um ihr Primärziel zu zerstören – inklusive Friendly Fire.



Die US Air Force (USAF) erforscht derzeit in virtuellen Simulationen, wie sich KI-gesteuerte Kampfdrohnen in Gefechtssituationen verhalten. Wichtig ist dem Militär dabei bisher noch, dass am Ende der Befehls- und Entscheidungskette stets eine menschliche Person sitzt und den finalen Befehl gibt. In einer dieser in Software simulierten Tests sah das eine KI-gesteuerte Drohne anders. Sie tötete ihren virtuellen menschlichen Befehlshaber, um ihr finales Ziel zu erreichen und ein mögliches Nein auf menschlicher Seite zu umgehen.

Die US Air Force meldete sich beim Magazin Insider, welches die Story früh veröffentlichte, mit einer Stellungnahme. Die Situation sei nur anektdotisch gemeint und habe so nicht stattgefunden.

Den Fall schildert der USAF-Chef für KI-Tests und -Operationen, Colonel Tucker Hamilton, auf einer Konferenz. Der Air-Force-Offizier war in der Vergangenheit auch für viele andere Projekte verantwortlich und arbeitet aktuell etwa an KI-gesteuerten F-16-Abfangjägern. Er sieht KI als eine Chance und ein Risiko zugleich, da sie sehr ungewöhnliche Strategien aufzeige, aber auch leicht auszutricksen sei.

Erst den Menschen, dann den Sendemast

Der virtuelle Friendly-Fire-Unfall wurde vor allem durch nachlässiges Training der KI hervorgerufen. So erklärte Hamilton in seinem Vortrag: "Das System begann zu erkennen, dass der menschliche Vorgesetzte zwar die Bedrohung erkannte, aber teilweise anwies, die Bedrohung nicht zu beseitigen." (via Aerosociety.com). Er ergänzte: "Allerdings bekam das System Punkte dadurch, das Ziel zu zerstören. Also was tat es? Es brachte den menschlichen Vorgesetzten um."

Diesen Fehler konnte Hamiltons Team noch beheben, indem das System Minuspunkte für das Töten des Vorgesetzten erhielt. Der nächste logische Schritt für die KI war allerdings schnell gefunden: den Kommunikationsturm zu zerstören, der den Menschen die Kontrolle über die Drohne geben und sie vom Zerstören eines Ziels abhalten könnte. "Wir können nicht über KI und Autonomie reden, wenn wir nicht auch über deren Ethik sprechen", sagte Hamilton.

Simulationen wie diese zeigen, dass KI schneller als gedacht außer Kontrolle geraten kann. Nicht umsonst unterschrieben mehrere bekannte KI-Experten und Unternehmensvertreter von Microsoft, OpenAI, Google und vielen mehr eine entsprechende Stellungnahme. Deren Kernaussage: "KI könnte zur Ausrottung der Menschen führen."

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]