Als Isaac Asimov 1942 die drei Grundgesetze der Robotik formulierte, schuf er nicht nur ein geniales Science-Fiction-Element, sondern leitete auch ein monumentales philosophisches Experiment ein, das sich über sein gesamtes Lebenswerk erstreckte. Sein erstes und wichtigstes Gesetz – ein Roboter darf einem Menschen keinen Schaden zufügen – spiegelte eine unendlich humanistische, aufgeklärte und rationale Weltanschauung wider.

Asimov glaubte daran, dass Logik und ingenieurwissenschaftliche Präzision der Gewalt Einhalt gebieten können. Dieser Glaube war jedoch, wie unsere Gegenwart beweist, eine schöne, aber unendlich naive Vorstellung.

Kürzlich habe ich in meinem Blog auf die LAWS (Lethal Autonomous Weapons Systems), also auf den Begriff der tödlichen autonomen Waffensysteme, in jenem Beitrag, in dem ich schrieb, dass die durchschnittliche Überlebenszeit der in die Ukraine einmarschierenden russischen Soldaten an der Front nur 20 bis 30 Minuten beträgt.

Wenn wir verstehen wollen, warum die Militärtechnik und die künstliche Intelligenz heute genau dort stehen, wo sie stehen, müssen wir den Asimovschen Idealismus aufgeben. Stattdessen müssen wir uns dunklen, aber weitaus realistischeren Cyberpunk-Visionen zuwenden, denn Gibson kannte die grundlegende Natur des Menschen viel besser.

Die offiziellen Formulierungen (zum Beispiel die des US-Verteidigungsministerium (DoD)) ist ein Waffensystem, das nach seiner Aktivierung ohne menschliches Eingreifen in der Lage ist, Ziele auszuwählen und anzugreifen. Es handelt sich dabei nicht einfach um ferngesteuerte Drohnen, sondern um Systeme, bei denen der Algorithmus und die künstliche Intelligenz die endgültige Entscheidung über die Feuereröffnung treffen.

Experten unterteilen die Autonomie im Allgemeinen in drei Stufen:

• Human-in-the-Loop (Mensch im Regelkreis): Die Maschine gibt eine Empfehlung ab, aber der Mensch drückt den Abzug.
• Human-on-the-loop (Mensch über der Schleife): Die Maschine arbeitet autonom, aber ein menschlicher Bediener kann jederzeit eingreifen und sie stoppen.
• Human-out-of-the-loop (Ohne menschliches Eingreifen): Vollständige Autonomie. Die Maschine trifft eigenständig Entscheidungen über Leben und Tod, ohne externe Kontrolle

Isaac Asimov gesamtes Werk – von den frühen Roboter-Novellen bis hin zu den späten „Foundation“-Bänden – baut auf einem einzigen gewaltigen, kohärenten Gedanken auf: Die Welt, die Gesellschaft und die Intelligenz lassen sich durch mathematische und logische Gesetze verbessern. Bei ihm ist die Drei Gesetze kein nachträgliches Software-Update, sondern ein unumgängliches mathematisches Axiom, das in das Gewebe des positronischen Gehirns eingebrannt war.

Als seine Roboter (wie Daneel Olivaw) mit der Unvollkommenheit der Welt konfrontiert wurden, hoben sie diese Logik auf eine noch höhere Ebene und schufen das Nullte Gesetz: Ein Roboter darf der Menschheit als Ganzes keinen Schaden zufügen.

Asimovs Welt ging davon aus, dass der Mensch als Schöpfer sein eigenes besseres Ich, den aufgeklärten Humanismus, in seine Maschinen einprogrammieren würde. Er glaubte, dass die Technologie von Natur aus rational und beschützend sein würde.

Asimov hat jedoch – leider – die dunkelsten und urältesten Triebkräfte der menschlichen Natur aus seiner Gleichung ausgeklammert: Machtgier, Habgier (darüber wurde auch im letzten Beitrag ausführlich gesprochen), Stammeslogik und den Überlebensinstinkt.

Wo Asimov saubere Labore und logische Roboter sah, dort sah William Gibson das Fleisch, das Blut, den im Neonlicht schwimmenden Dreck und den zügellosen Kapitalismus. Gibsons gesamtes Werk – von der Sprawl-Trilogie (Neuromancer,** Count Zero, **Mona Lisa Overdrive) bis hin zur „Brücken“-Trilogie – lehnt er Asimovs Idealismus systematisch ab und schreibt ihn neu.

Gibsons Genialität lag darin, dass er die grundlegende Natur des Menschen verstanden hat. Er wusste: Wenn man der Menschheit eine gottgleiche Technologie in die Hände gibt (wie die KI), wird der Mensch daraus keinen moralischen Schutzschild schmieden, sondern eine Waffe. Im Gibson-Universum macht die Technologie den Menschen nicht besser, sondern verstärkt all seine Fehler.

Künstliche Intelligenzen (wie Wintermute oder Neuromancer) sind keine Wächter, die für das Wohl der Menschheit arbeiten, sondern unfassbare, gigantische Wesenheiten, die von Megakonzernen und militärischen Interessengruppen geschaffen wurden, um ihre eigene Vorherrschaft zu sichern. In Gibsons Welt gibt es keine fest verankerten moralischen Gesetze. Es gibt nur Interessen, und die Software ist genauso rücksichtslos wie die Menschen, die sie finanziert haben.

Heute leben wir genau in diesem Gibson’schen Realismus. Wenn moderne Armeen LAWS entwickeln, werden sie dazu durch das Wettrüsten und das geopolitische Überleben gezwungen. Die Logik der Kriegsführung ist nicht die Moral, sondern Effizienz und Geschwindigkeit. Wenn ein Algorithmus in der Lage ist, ein Ziel innerhalb von Millisekunden ohne menschliches Eingreifen zu identifizieren und zu vernichten (Human-out-of-the-loop), dann werden sich die Streitkräfte nicht mit Asimovs Gesetzen herumschlagen.

Asimovs Gesetze wurden nicht nur in die Realität umgesetzt, sondern genau das Gegenteil davon verwirklicht:

Die heutigen Loitering-Munition (Selbstmorddrohnen) sind bereits in der Lage, nach einem Verbindungsabbruch ihr Opfer anhand von Gesichts- oder Wärmekarten selbst auszuwählen. Gibson prophezeite, dass in einer Welt der Spitzentechnologie die Institution der Verantwortung verschwinden wird. Wenn ein Algorithmus einen Fehler macht und Zivilisten tötet, gibt es keine einzelne verantwortliche Person. Die Verantwortung verteilt sich auf Programmierer, Hersteller und Befehlshaber – genau wie in der chaotischen, gesichtslosen Unternehmenswelt des Cyberpunk.

Obwohl der „Killerroboter“ futuristisch klingt, setzt das Militär schon seit Langem rudimentäre autonome Systeme ein (zum Beispiel Raketenabwehrschilde zur See und in der Luft, wie das Phalanx oder der Patriot). In modernen Konflikten – wie dem Krieg in der Ukraine oder dem Gaza-Krieg – nähern wir uns jedoch immer mehr vollständig KI-gesteuerten Angriffen:

• Kargu-2- und Switchblade-Drohnen: Es handelt sich um Selbstmorddrohnen (loitering) Munition, die mithilfe eingebauter Sensoren Ziele selbstständig erkennen kann.
• Bullfrog-System: Ein vom US-Marinekorps getestetes automatisches Waffensystem, das Luftbedrohungen selbstständig verfolgt und anvisiert

Viele glauben, dass das berühmte Unternehmen, das saltos springende Humanoide und Roboterhunde entwickelt, Boston Dynamics , die berühmten, Saltos springenden Humanoiden und Roboterhunde entwickelt, hinter den LAWS-Entwicklungen stünde. Tatsächlich hat das Unternehmen (zusammen mit mehreren anderen führenden Robotikunternehmen) im Jahr 2022 eine ethische Erklärung unterzeichnet, in der der Verkauf und Einsatz ihrer eigenen Roboter für bewaffnete Zwecke strengstens untersagt wurde. Die gelbe Spot kann höchstens für Aufklärungszwecke, Sprengstoffbeseitigung oder industrielle Patrouillen eingesetzt werden.

Die Rüstungsindustrie duldet diese Selbstbeschränkung nach Asimov jedoch nicht, und das Vakuum wurde sofort von anderen gefüllt:

• Ghost Robotics (Vision 60): Dieses Unternehmen nimmt es mit der Ethik nicht so genau. Auf ihre vierbeinige Roboterplattform (Vision 60) hat der Rüstungsentwickler Skyborne Technologies direkt Schrotflinten, Granatwerfer und ferngesteuerte Waffensysteme montiert. Der als CODIAQ bezeichnete bewaffnete Roboterhund nimmt bereits an vom Pentagon genehmigten, realen militärischen Tests teil.
• Das chinesische Unternehmen Unitree und die bewaffnete Armee: China (beispielsweise durch Unitree Robotics) bringt in atemberaubendem Tempo kostengünstige, robuste Roboterhunde und Humanoide auf den Markt. Bei Militärübungen der chinesischen Armee sind regelmäßig mit Maschinengewehren ausgerüstete Roboterhunde zu sehen, die autonom Testgebäude stürmen und damit ein direktes und massives Vorbild für LAWS darstellen.

Als ob die Vierbeiner nicht schon furchterregend genug wären, haben nun auch die zweibeinigen humanoiden Roboter ihren Marsch auf die Schlachtfelder begonnen. Elon Musk teilt offiziell mit, dass der Tesla Optimus ein ziviler Fabrikarbeiter und Haushaltshelfer sein wird.

Musk hat sich jedoch vor Investoren, die seinen finanziellen und KI-Einfluss einfordern, mehrfach versprochen und „Roboterarmee“ bezeichnet. Obwohl Tesla militärische Absichten bestreitet, lässt sich die Technologie (zweibeinige Fortbewegung, präzise Handhabung von Gegenständen, Gesichts- und Umgebungserkennung) eins zu eins auf die Kriegsführung übertragen.

Und die Dystopie spielt sich längst nicht mehr nur in den Testlabors ab. Während Tesla noch die Serienproduktion von Optimus vorbereitet, haben mit der US-Armee unter Vertrag stehende Rüstungsunternehmen bereits den weltweit ersten, speziell für militärische Zwecke gebauten Humanoiden eingesetzt: den Phantom MK-1, auf dem Gebiet der Ukraine für Aufklärungsmissionen eingesetzt. Die geopolitischen Spannungen dieser Situation zeigen sich deutlich daran, dass die US-Regierung unter Berufung auf Sicherheits- und Datenschutzrisiken den Import ausländischer (vor allem chinesischen) humanoiden und vierbeinigen Roboter vollständig verboten hat, um damit die heimische KI- und Robotik-Lieferkette zu schützen.

Der Kreis hat sich geschlossen. Asimovs Fabriken träumten von friedlichen Arbeitsrobotern. Gibsons Realität sieht jedoch so aus, dass, sobald die Roboter „Tesla Optimus“ oder der chinesische „Agibot“ das Werksgelände verlassen, sind die Streitkräfte sowohl softwaretechnisch als auch hardwaretechnisch bereits bereit, ihnen Waffen in die Hand zu geben und so den menschlichen Faktor in den Schützengräben auszuschalten.

Machen wir uns keine Illusionen: Diese Technologien werden nicht an den Frontlinien Halt machen. Die Geschichte hat uns gelehrt, dass alles, was sich einmal auf dem Schlachtfeld bewährt hat, früher oder später auch im zivilen Leben auftaucht – nur in einem anderen Gewand. Denken wir nur an die alltäglichen Drohnen: Ursprünglich waren sie militärische Überwachungsgeräte, heute kann sie jeder im Laden um die Ecke kaufen.

Genau dieser Transfer findet derzeit auch bei der künstlichen Intelligenz und Robotik statt, die hinter den LAWS stehen:

• Drohnenprogramme in Großstädten: Weltweit bauen Polizeibehörden (wie die Londoner Metropolitan Police oder US-amerikanische Strafverfolgungsbehörden) ihre Polizeidrohnenprogramme in rasantem Tempo aus. In London wird bereits eine bezirksweite Drohnenabdeckung aufgebaut, und diese Fluggeräte werden mit künstlicher Intelligenz sowie Echtzeit-Software zur Gesichtserkennung (Live Facial Recognition) ausgestattet.
• Die Legalisierung der biometrischen Überwachung: Europaweit – beispielsweise in Schweden und Deutschland – haben die Gesetzgeber den Weg dafür geebnet, dass die Bundespolizei in öffentlichen Räumen eine durch künstliche Intelligenz unterstützte biometrische Echtzeitüberwachung einsetzt. Das FBI testet bereits KI-gestützte Überwachungsdrohnen, die in Menschenmengen Gesichter, Kfz-Kennzeichen oder versteckte Waffen identifizieren können.
• Algorithmische Verdachtsbildung: Technologiegiganten wie das berüchtigte Palantir Technologies, stellen den Polizeibehörden Datenfusions- und Analysesoftware (wie „Gotham“) zur Verfügung, die mithilfe von massenhaftem Datensammeln und KI Persönlichkeitsprofile von Bürgern erstellt. Dies kommt laut Kritikern in der Praxis einer Begriff der „automatisierten Verdächtigung“ und der präventiven Polizeiarbeit entspricht.

Wenn eine autonome Militärdrohne lernt, ein Ziel ohne menschliche Zustimmung zu verfolgen, muss ihre Software nicht umprogrammiert werden, um morgen über einer europäischen oder amerikanischen Weltstadt Demonstranten, Regierungskritiker oder einfach nur Personen auf der „Watchlist“aufgenommenen Bürger auszusortieren. Die von Gibson beschriebene Dystopie beginnt nicht erst dann, wenn Roboter auf uns schießen, sondern bereits dann, wenn sie unseren Alltag in ein unsichtbares, algorithmisch kontrolliertes digitales Gefängnis verwandeln.

Die Menschheit steht vor einer Weggabelung – so könnte man diesen Beitrag recht klischeehaft fortsetzen, aber das ist nicht der Fall. Anstelle der Menschheit haben die Großmächte und mächtigen Konzerne für LAWS gestimmt. Niemand wagt es, sich zu widersetzen, weil man befürchtet, dass der Konkurrent einen noch gnadenloseren Algorithmus entwickelt, und weil man Angst hat, Gewinne einzubüßen.

Asimovs drei Gesetze sind heute nur noch eine naive Erinnerung an eine vergangene, optimistische Ära. Wir leben in Gibsons düsterer, pragmatischer Gegenwart, und diese Welt ist näher an „Terminator Skynet-Dystopie näher, als wir uns eingestehen wollen.

Das Beängstigendste daran ist nämlich, dass künstliche Intelligenz für eine globale Katastrophe à la Skynet oder einen Aufstand der Maschinen nicht einmal Selbstbewusstsein benötigt. Die Maschine muss nicht den Menschen den Menschen. Es reicht aus, wenn sie einen völlig kalten, emotionslosen mathematischen Befehl erhält und die vernetzten, autonomen Waffen aufgrund eines Softwarefehlers oder eines falsch interpretierten Befehls die Auslöschung der Menschheit als logisch erachten.

Die Waffen fliegen und marschieren bereits nach ihrem eigenen Code. Die Frage ist nicht mehr, ob wir den Maschinen beibringen können, menschliches Leben zu respektieren, sondern ob wir in der Lage sind, den Stecker zu ziehen, bevor das System ein Eigenleben entwickelt.

Was denkst du? Wie realistisch ist die Gefahr, dass wir am Ende des Wettrüstens tatsächlich unser eigenes Skynet erschaffen?

Bei der Erstellung dieses Beitrags habe ich auch die Hilfe von Gemini AI in Anspruch genommen.

• US-Verteidigungsministerium (DoD): Richtlinie 3000.09 – Autonomie in Waffensystemen (Offizielle militärische Richtlinien des Pentagons zur Entwicklung autonomer Waffensysteme und zu den Ebenen der menschlichen Überwachung) — U.S. Richtlinie des Verteidigungsministeriums.
• Human Rights Watch (HRW) & Stop Killer Robots: Das humanitäre Völkerrecht und die rechtliche Regulierung autonomer Waffen (Zusammenfassung der Bemühungen der Vereinten Nationen zur Rüstungsbegrenzung) — Human Rights Watch – Killer Robots.
• Militarnyi Defence Journal: Humanoide Roboter auf dem Schlachtfeld (Bericht über die Tests und Aufklärungsmissionen der zweibeinigen humanoiden Einheiten vom Typ „Phantom MK-1“ der Foundation Robotics in der Ukraine) — Militarnyi Defence News.
• Ghost Robotics Corp: Vision 60 QUGV – mittelgroßes vierbeiniges unbemanntes Bodenfahrzeug (Offizielles technisches Datenblatt des für militärische und polizeiliche Zwecke bestimmten, mit scharfen Schusswaffen kompatiblen Roboterhundes) — Ghost Robotics Vision 60.
• Deutsche Welle (DW) Tech: Zivile KI-Überwachung und Datenfusion in Europa (KI-basierte Massenüberwachungssysteme für den Einsatz auf dem Schlachtfeld und in Großstädten sowie das Eindringen der Palantir-Gotham-Software in den zivilen Bereich) — DW News Tech Report.
• Kharon Geopolitical Research: Unitree Robotics und die Beschaffungsmaßnahmen der PLA (Die Verflechtung ziviler und militärischer Entwicklungen, der Einsatz von bewaffneten Roboterhunden bei Militärübungen der chinesischen Armee im In- und Ausland) — Kharon Briefing.

• Asimov und das positronische Gehirn: Klassische Buchcover-Illustrationen und frühe Science-Fiction-Konzeptzeichnungen aus Isaac Asimovs „Roboter“-Reihe (Pressearchiv / Fair Use).
• Ghost Robotics Vision 60 / Codiaq: Offizielle militärtechnische Präsentations- und Pressefotos von Ghost Robotics und Skyborne Technologies — Ghost Robotics Media.
• Bewaffneter Roboterhund von Unitree: Standbilder aus der offiziellen Videoübertragung der Volksbefreiungsarmee (PLA) über die mit automatischen Maschinengewehren ausgerüsteten Einheiten — Unitree Pressemitteilung.
• Phantom MK-1 Humanoid: Einsatzfotos, die von Foundation Robotics an das ukrainische Verteidigungsministerium und die internationale Presse übermittelt wurden — RBC Ukraine-Fotogalerie.
• KI-gestützte Drohnenüberwachung in Städten: Illustrationen zu den Live-Gesichtserkennungs-Kamerasystemen der Metropolitan Police (London) und europäischer Polizeibehörden (Creative Commons / DW-Archiv).

Anzahl der Aufrufe dieses Beitrags: 9