Ehemalige Google-Ingenieurin warnt: Killerroboter können versehentlich Krieg auslösen

Nolan arbeite bereits vier Jahre bei Google, als sie 2017 für das Gemeinschaftsprojekt "Project Maven" mit dem US-Verteidigungsministerium rekrutiert wurde. Bei dem Projekt geht es um die Verwendung von Künstlicher Intelligenz (KI) zur Verbesserung von Militärdrohnen. Die Drohnen sollen in der Lage sein, feindliche Ziele zu identifizieren und zwischen Personen und Objekten zu unterscheiden.

Google hatte das Projekt 2018 nach Protesten von Mitarbeitern eingestellt. Tausende Google-Angestellte hatte eine Petition unterschrieben. Daraufhin ließ das Unternehmen den Vertrag mit dem Pentagon auslaufen. Nolan erklärte, sie habe sich aus ethischen Beweggründen aus dem Projekt zurückgezogen.

Die Ingenieurin war als "Site Reliability Engineer" für das Projekt tätig. "Obwohl ich nicht direkt an der Beschleunigung der Videomaterialerkennung beteiligt war, wurde mir klar, dass ich immer noch Teil der Tötungskette war; dass dies letztendlich dazu führen würde, dass mehr Menschen vom US-Militär an Orten wie etwa in Afghanistan ins Visier genommen und getötet würden", erklärte Nolan gegenüber der britischen Zeitung The Guardian.

Studie kritisiert Amazon und Microsoft wegen Entwicklung von gefährlichen KI-Kampfsystemen

Nolan befürchtet, dass nach KI-fähigen Waffen wie Drohnen der nächste Schritt völlig autonome KI-Waffen sein könnten. "Uns stünden möglicherweise Gräueltaten und rechtswidrige Tötungen auch unter dem regulären Kriegsrecht bevor, vor allem, wenn Hunderte oder Tausende dieser Maschinen eingesetzt werden", so die Ingenieurin.

Laut Nolan können eine Vielzahl von unvorhersehbaren Faktoren die Waffensysteme beeinflussen, so unter anderem unerwartete Radarsignale, ungewöhnliches Wetter oder Menschen, die Waffen aus anderen Gründen als der Kriegsführung tragen, wie z.B. bei der Jagd. "Die Maschine hat nicht die Unterscheidungskraft oder den gesunden Menschenverstand, über den der Mensch verfügt", erklärte Nolan.

Obwohl noch kein Land zugegeben hat, an völlig autonomen Roboterwaffen zu arbeiten, konzentrieren sich viele dennoch auf immer ausgefeilteren KI-Systeme. Die US-Marine verfügt über ein selbststeuerndes Kriegsschiff, das in der Lage ist, Monate ohne Besatzung auf See zu verbringen, und Israel verfügt über Drohnen, die in der Lage sind, Ziele autonom zu identifizieren und anzugreifen.

Nolan drängt die Länder, ein völliges Verbot des autonomen Tötungsroboters zu verhängen, ähnlich den Konventionen über den Einsatz von Chemiewaffen: "Nur sehr wenige Leute reden darüber, aber wenn wir nicht aufpassen, könnten diese Killerroboter versehentlich einen Blitzkrieg auslösen, ein Atomkraftwerk zerstören und Gräueltaten in großem Umfang auslösen."

Beim letzten UN-Meeting zu diesem Thema im April 2018 unterstützten 26 Länder ein komplettes Verbot derartiger Waffen – darunter Österreich, der Irak, Pakistan, Argentinien und Brasilien sowie einige weitere südamerikanische und afrikanische Staaten. 32 weitere Staaten sprachen sich für Verhandlungen zu internationalen Regelungen für solche Waffen aus, ohne sich festzulegen, wie eine solche Regelung aussehen könnte.