Autonome Waffensysteme : "Als würden wir Atomwaffen im Supermarkt anbieten"

Er vergleicht autonome Waffensysteme mit Atombomben und ist einer der Wortführer der internationalen Kampagne für ein Verbot von "Lethal Autonomous Weapon Systems": Stuart Russell. Der gebürtige Brite forscht und lehrt seit 1986 an der University of California, Berkeley. Vielfach ausgezeichnet, gilt Russell als einer der führenden Wissenschaftler auf dem Feld der Künstlichen Intelligenz. Im Interview mit MIT Technology Review erklärt er, warum er sich dafür einsetzt, die kommerzielle Produktion autonomer Waffensysteme zu untersagen.

Zwei metallische Beine, zwei Arme und darin eine Waffe: Viele haben ein bestimmtes Bild von einem "Killerroboter" vor Augen, wenn es um autonome Waffen geht. Doch in der Regel fallen unter die Bezeichnung Fluggeräte, etwa Drohnen mit Propellerantrieb oder kleine Quadcopter. Ein vollständig autonomes Waffensystem sei in der Lage, seine Ziele selbst zu identifizieren, so Russell. "Das bedeutet, eine einzelne Person kann eine Million Waffen gegen eine ganze Bevölkerung einsetzen. Dadurch reden wir über Waffen, die eine ähnliche Vernichtungskraft besitzen wie Atombomben, zugleich aber viel billiger herzustellen sind und deren Verbreitung sich kaum überwachen lässt. Simple Modelle sind bereits weltweit verfügbar. Es ist fast so, als würden wir beschließen, die Kontrolle über Atomwaffen aufzugeben und sie in jedem Supermarkt anzubieten." So gefährlich schätzt Russell die Lage mittlerweile ein.

"Vorsichtig optimistisch"

Um die Bedrohung zu illustrieren, konzipierte Russell zusammen mit dem Future of Life Institute 2017 den Kurzfilm "Slaughterbots". Neben der Gefahr, dass autonome Waffensysteme eines Tages leicht verfügbar sein könnten, ging es Russell bei dem Film darum, zu zeigen, "welchem Risiko wir uns aussetzen, wenn wir die Entwicklung solcher Systeme nicht stoppen".

Dieser Text stammt aus MIT Technology Review 7/2023

Früher schlug man sich mit einem C64 mit einer Datasette und verpixelter Grafik von Spielen herum, heute sind in aktuellen VR-Brillen nicht einmal mehr Pixel zu erkennen. Und jetzt betritt auch noch Apple den Markt für räumliches Computing mit einem klaren Bekenntnis zu Augmented Reality. Wird das der VR- / AR-Technik zum Durchbruch verhelfen?​ Dieser Frage geht die neue Ausgabe von MIT Technology Review nach. Highlights aus dem Heft:

• Spatial Computing: Wie die Technik unsere Sicht auf die Welt verändern wird
• Designer Keiichi Matsuda im Interview über die Auswirkungen von AR im täglichen Leben
• Nebenwirkung der VR-Brille: Motion Sickness
• Künstliche Intelligenz gegen Verspätungen bei der Bahn
• Seilbahn, Monocab, Fußwege: Neue Mobilitätskonzepte
• TR-Heft 7/2023 im heise shop bestellen

Obwohl ein internationales Abkommen zur Regulierung von autonomen Waffensystemen nur schleppend vorankommt, ist Russell "vorsichtig optimistisch" bezüglich einer Einigung, wie er im Interview sagt. "Das Problem ist: Zu den Staaten, die kein Verbot wollen, gehören auch Russland und die USA. Und wenn ein Abkommen etwas bewirken soll, müssen zumindest die Vereinigten Staaten mitmachen."

Russell ist derweil bewusst, dass ein staatliches Verbot auch seine Grenzen hat, etwa wenn es um Terrorgruppen wie den IS geht. Würde jedoch eine kommerzielle Produktion untersagt, dann wären solche Gruppen darauf angewiesen, sich ihre Killerdrohnen selbst zu basteln. "Das würde Angriffe mit Massenwirkung stark erschweren, denn es ist natürlich weitaus komplizierter, Millionen tödliche Waffen in Eigenproduktion herzustellen, und fast unmöglich, dabei nicht entdeckt zu werden."

Hier MIT Technology Review lesen:

• Das vollständige Interview mit Stuart Russell in MIT Technology Review im Browser bei heise select lesen
• MIT Technology Review 7/2023-Printausgabe im heise shop bestellen
• Seit dem 21.9. im gut sortierten Zeitschriftenhandel kaufen

(wst)