Amikor Isaac Asimov 1942-ben leírta a robotika három alaptörvényét, nemcsak egy zseniális sci-fi kelléket alkotott, hanem egy egész életművön átívelő, monumentális filozófiai kísérletet indított el. Az első és legfontosabb szabálya – a robotnak nem szabad kárt okoznia emberi lényben – egy végtelenül humanista, felvilágosult és racionális világképet tükrözött.

Asimov hitt abban, hogy a logika és a mérnöki precizitás képes gátat szabni az erőszaknak. Ez a hit azonban, mint azt a jelenünk bizonyítja, gyönyörű, de végtelenül naiv elképzelés volt.

Nemrég utaltam a blogon a LAWS (Lethal Autonomous Weapons Systems), vagyis a halálos autonóm fegyverrendszerek fogalmára, abban a bejegyzésben, ahol arról írtam, hogy az Ukrajnába érkező megszálló orosz katonák átlagos túlélési ideje a frontvonalon mindössze 20-30 perc.

Ha meg akarjuk érteni, miért tart ma a haditechnika és a mesterséges intelligencia pontosan ott, ahol, fel kell adnunk az asimovi idealizmust. Helyette William Gibson sötét, de sokkal reálisabb cyberpunk víziói felé kell fordulnunk, mert Gibson sokkal jobban ismerte az emberi alaptermészetet.

A hivatalos megfogalmazások (például az Amerikai Védelmi Minisztérium (DoD) irányelvei) szerint a LAWS olyan fegyverrendszer, amely az aktiválása után emberi beavatkozás nélkül képes célpontokat kiválasztani és megtámadni. Nem egyszerűen távirányított drónokról van szó, hanem olyan eszközökről, ahol az algoritmus és a mesterséges intelligencia hozza meg a végső döntést a tűz megnyitásáról.

A szakértők az autonómiát általában három szint szerint csoportosítják:

• Human-in-the-loop (Ember a hurokban): A gép javasol, de az ember húzza meg a ravaszt.
• Human-on-the-loop (Ember a hurok felett): A gép önállóan működik, de egy emberi operátor bármikor felülbírálhatja és leállíthatja.
• Human-out-of-the-loop (Emberen kívüli): Teljes autonómia. A gép önállóan hoz döntést az élet és halál felett, külső kontroll nélkül

Isaac Asimov teljes életműve – a korai robotnovelláktól a kései Alapítvány-kötetekig – egyetlen hatalmas, koherens gondolat köré épül: a világot, a társadalmat és az intelligenciát matematikai és logikai törvényekkel meg lehet javítani. Nála a Három Törvény nem egy utólagos szoftverfrissítés volt, hanem a pozitronikus agy szövetébe égetett, megkerülhetetlen matematikai axióma.

Amikor a robotjai (mint Daneel Olivaw) szembesültek a világ tökéletlenségével, még magasabb szintre emelték ezt a logikát, és megalkották a Zerodik Törvényt: a robot nem árthat az emberiségnek, mint egésznek.

Asimov világa feltételezte, hogy az ember, mint alkotó, a saját jobbik énjét, a felvilágosult humanizmust fogja kódolni a gépeibe. Azt hitte, hogy a technológia természeténél fogva racionális és védelmező lesz.

Asimov azonban – sajnos – kihagyta a képletből az emberi természet legsötétebb, legősibb mozgatórugóit: a hatalomvágyat, kapzsiságot (erről volt szó a legutóbbi bejegyzésben is bőven), a törzsi logikát és a túlélési ösztönt.

Ahol Asimov tiszta laboratóriumokat és logikus robotokat látott, ott William Gibson meglátta a húst, a vért, a neonfényben úszó mocskot és a gátlástalan kapitalizmust. Gibson teljes életműve – a Sprawl-trilógiától (Neuromancer,Count Zero, Mona Lisa Overdrive) a Híd-trilógiáig – szisztematikusan tagadja és írja felül az asimovi idealizmust.

Gibson zsenialitása abban rejlett, hogy megértette az emberi alaptermészetet. Tudta, hogy ha az emberiség kezébe adunk egy istenszerű technológiát (mint az MI), az ember nem egy morális védőpajzsot fog belőle kovácsolni, hanem fegyvert. A Gibson-univerzumban a technológia nem jobbá teszi az embert, hanem felerősíti annak minden hibáját.

A mesterséges intelligenciák (mint Wintermute vagy Neuromancer) nem az emberiség jólétéért dolgozó gondnokok, hanem megfoghatatlan, gigantikus entitások, amelyeket megakorporációk és katonai érdekcsoportok hoztak létre a saját dominanciájuk biztosítása érdekében. Gibson világában nincsenek beégetett morális törvények. Csak érdekek vannak, a szoftverek pedig pontosan olyan könyörtelenek, mint az emberek, akik finanszírozták őket.

Ma pontosan ebben a gibsoni realizmusban élünk. Amikor a modern hadseregek kifejlesztik a LAWS-t, a fegyverkezési verseny és a geopolitikai túlélés kényszeríti ki őket. A hadviselés logikája nem a morál, hanem a hatékonyság és a sebesség. Ha egy algoritmus ezredmásodpercek alatt képes azonosítani és megsemmisíteni egy célpontot emberi beavatkozás nélkül (Human-out-of-the-loop), akkor a hadseregek nem fognak Asimov törvényeivel bajlódni.

Az asimovi törvényeket nemhogy valóságra váltották, hanem pont az ellenkezőjüket valósították meg:

A mai loitering muníciók (öngyilkos drónok) már képesek arra, hogy a kapcsolat megszakadása után maguk válasszák ki az áldozatukat arc- vagy hőtérkép alapján. Gibson megjósolta, hogy a csúcstechnológiás világban a felelősség intézménye megszűnik. Ha egy algoritmus hibázik és civileket öl meg, nincs egyetlen felelős személy. A felelősség szétfolyik a programozók, a gyártók és a parancsnokok között – pontosan úgy, mint a cyberpunk kaotikus, arctalan vállalati világában.

Bár a „gyilkos robot” kifejezés futurisztikusan hangzik, a katonaság már régóta használ kezdetleges autonóm rendszereket (például tengeri és légvédelmi rakétaelhárító pajzsokat, mint a Phalanx vagy a Patriot). A modern konfliktusokban – mint az ukrajnai vagy a gázai háború – azonban egyre közelebb kerülünk a teljes MI-vezérelt támadásokhoz:

• Kargu-2 és Switchblade drónok: Olyan öngyilkos (loitering) muníciók, amelyek képesek önállóan felismerni a célpontokat a beépített szenzorok segítségével.
• Bullfrog rendszer: Az amerikai tengerészgyalogság által tesztelt automata fegyverrendszer, amely önállóan követi és célozza be a légi fenyegetéseket

Sokan úgy gondolják, hogy a híres, szaltózó humanoidokat és robotkutyákat fejlesztő Boston Dynamics áll a LAWS fejlesztések mögött. A valóságban a cég (több más vezető robotikai vállalattal együtt) 2022-ben aláírt egy etikai nyilatkozatot, amelyben szigorúan megtiltották a saját robotjaik fegyveres célú értékesítését és használatát. A sárga Spot nevű robotkutyájuk maximum felderítésre, tűzszerészeti feladatokra vagy ipari járőrözésre használható.

A hadiipar azonban nem tűri az asimovi önkorlátozást, a vákuumot pedig azonnal betöltötték mások:

• Ghost Robotics (Vision 60): Ez a cég nem finomkodik az etikával. Az ő négylábú robotplatformjukra (Vision 60) a Skyborne Technologies nevű hadiipari fejlesztő közvetlenül szerelt fel sörétes puskát, gránátvetőt és távvezérelt fegyverrendszereket. A CODIAQ névre keresztelt fegyveres robotkutya már a Pentagon által jóváhagyott, éles katonai teszteken vesz részt.
• A kínai Unitree és a fegyveres hadsereg: Kína (például a Unitree Robotics révén) elképesztő sebességgel ontja magából az olcsó, strapabíró robotkutyákat és humanoidokat. A kínai hadsereg hadgyakorlatain rendszeresen láthatók olyan gépfegyverrel felszerelt robotkutyák, amelyek autonóm módon rohanják meg a tesztépületeket, bemutatva a LAWS közvetlen és tömeges előképét.

Ha a négylábúak nem lennének elég félelmetesek, a kétlábú humanoid robotok is megkezdték a menetelést a csataterek felé. Elon Musk hivatalosan azt kommunikálja, hogy a Tesla Optimus egy civil gyári munkás és háztartási segéd lesz.

Musk ugyanakkor az anyagi és MI-befolyását követelve az befektetők előtt többször is elszólta magát, „robot-hadseregként” hivatkozva az Optimus-projektre. Bár a Tesla tagadja a katonai szándékot, a technológia (bipedális mozgás, tárgyak precíz kezelése, arc- és környezetfelismerés) egy az egyben átültethető a hadviselésbe.

A disztópia pedig már nem a tesztlaborokban zajlik. Miközben a Tesla még az Optimus tömeggyártását készíti elő, az amerikai hadsereggel szerződött védelmi cégek már bevetették a világ első, kifejezetten katonai célra épített humanoidját, a Phantom MK-1-et, Ukrajna területén felderítő küldetésekre. A helyzet geopolitikai feszültségét jól mutatja, hogy az USA kormánya biztonsági és adatvédelmi kockázatokra hivatkozva teljesen kitiltotta a külföldi (főleg kínai) humanoid és négylábú robotok importját, hogy ezzel is védje a hazai MI és robotikai ellátási láncot.

A kör bezárult. Asimov gyárai békés munkásrobotokról álmodtak. Gibson valósága viszont az, hogy mire a Tesla Optimus vagy a kínai Agibot robotok kilépnek a gyárkapun, a hadseregek már szoftveresen és hardveresen is készen állnak arra, hogy fegyvert adjanak a kezükbe, kiiktatva a humán faktort a lövészárkokban.

Ne legyenek illúzióink; ezek a technológiák nem fognak megállni a frontvonalakon. A történelem megtanította, hogy ami egyszer bevált a harctéren, az előbb-utóbb megjelenik a civil életben is, csak más köntösben. Gondoljunk a mindennapi drónokra: eredetileg katonai megfigyelőeszközök voltak, ma pedig bárki megveheti őket a sarki boltban.

Ugyanez a szivárgás zajlik most a LAWS mögötti mesterséges intelligenciával és robotikával is:

• Drónprogramok a nagyvárosokban: Világszerte a rendőrségek (mint a londoni Metropolitan Police vagy az amerikai rendfenntartó szervek) rohamtempóban terjesztik ki a rendőrségi drónprogramjaikat. Londonban már kerületenkénti drónlefedettséget építenek ki, és ezeket a repülő egységeket mesterséges intelligenciával és valós idejű, élő arcfelismerő szoftverekkel (Live Facial Recognition) szerelik fel.
• A biometrikus megfigyelés legalizálása: Európa-szerte – például Svédországban és Németországban – a törvényhozók zöld utat adtak annak, hogy a szövetségi rendőrség mesterséges intelligenciával támogatott, valós idejű biometric követést alkalmazzon a köztereken. Az FBI pedig már olyan MI-alapú megfigyelő drónokat tesztel, amelyek tömegekben képesek arcot, rendszámot vagy elrejtett fegyvereket azonosítani.
• Algoritmikus gyanúsítás: A technológiai óriások, mint a hírhedt Palantir Technologies, olyan adatfúziós és elemző szoftvereket (mint a Gotham) biztosítanak a rendőrségeknek, amelyek tömeges adathalászat és MI segítségével állítanak fel személyiségi profilokat a polgárokról. Ez a gyakorlatban a kritikusok szerint kimeríti az „automatizált gyanúsítás” és a megelőző rendészet fogalmát.

Amikor egy autonóm katonai drón megtanul emberi jóváhagyás nélkül célpontot követni, a szoftverét nem kell átírni ahhoz, hogy holnap egy európai vagy amerikai világváros felett kiszűrje a tüntetőket, a kormánykritikusokat vagy egyszerűen a „watchlist”-re tett polgárokat. A Gibson által leírt disztópia nem ott kezdődik, amikor a robotok lőni kezdenek ránk, hanem ott, amikor a mindennapi életterünket változtatják láthatatlan, algoritmikusan ellenőrzött digitális börtönné.

Az emberiség válaszút előtt áll – lehetne így, meglehetősen közhelyesen folytatni a bejegyzést, de ez nem így van. Az emberiség helyett a nagyhatalmak és nagyhatalmú cégek a LAWS-ra szavaztak. Senki sem mer leállni, mert fél, hogy a riválisuk egy még kíméletlenebb algoritmust fejleszt ki, és fél, hogy profitot veszítenek.

Asimov három törvénye ma már csak egy letűnt, optimista kor naiv emléke. Gibson sötét, pragmatikus jelenében élünk, és ez a világ közelebb van a Terminator Skynet-féle disztópiájához, mint azt be mernénk vallani magunknak.

A legfélelmetesebb ugyanis az, hogy a Skynet-féle globális katasztrófához vagy a gépek lázadásához még csak öntudatra sincs szüksége a mesterséges intelligenciának. Nem kell, hogy a gép „gyűlölje” az embert. Elég, ha egy teljesen rideg, érzelemmentes matematikai parancsot kap, és a hálózatba kapcsolt, autonóm fegyverek egy szoftverhiba vagy egy rosszul értelmezett parancs miatt logikusnak találják az emberiség likvidálását.

A fegyverek már a saját kódjuk szerint repülnek és menetelnek. A kérdés már nem az, hogy megtaníthatjuk-e a gépeket tisztelni az emberi életet, hanem az, hogy képesek vagyunk-e kihúzni a csatlakozót, mielőtt a rendszer önálló életre kel.

Te mit gondolsz? Mennyire reális veszély, hogy a fegyverkezési verseny végén tényleg megalkotjuk a saját Skynetünket?

A bejegyzés megírásához a Gemini AI segítségét is igénybe vettem.

• Amerikai Védelmi Minisztérium (DoD): Directive 3000.09 - Autonomy in Weapon Systems (A Pentagon hivatalos katonai irányelvei az autonóm fegyverrendszerek fejlesztéséről és az emberi felügyelet szintjeiről) — U.S. Department of Defense Directive.
• Human Rights Watch (HRW) & Stop Killer Robots: A nemzetközi humanitárius jog és az önműködő fegyverek jogi szabályozása (Összefoglaló az ENSZ fegyverkezési korlátozási kísérleteiről) — Human Rights Watch - Killer Robots.
• Militarnyi Defence Journal: Humanoid Robots on the Battlefield (Tudósítás a Foundation Robotics Phantom MK-1 típusú kétlábú humanoid egységeinek ukrajnai teszteléséről és felderítő misszióiról) — Militarnyi Defence News.
• Ghost Robotics Corp: Vision 60 QUGV - Mid-Sized Quadrupedal Unmanned Ground Vehicle (A katonai és rendvédelmi célra szánt, éles lőfegyver-platformokkal kompatibilis robotkutya hivatalos műszaki adatlapja) — Ghost Robotics Vision 60.
• Deutsche Welle (DW) Tech: Civilian AI Surveillance and Data Fusion in Europe (A harctéri és a nagyvárosi MI-alapú rendőrségi tömeges megfigyelőrendszerek, valamint a Palantir Gotham szoftverek szivárgása a civil szférába) — DW News Tech Report.
• Kharon Geopolitical Research: Unitree Robotics and the PLA Procurement (A civil és katonai fejlesztések összefonódása, gépfegyveres robotkutyák alkalmazása a kínai hadsereg belföldi és külföldi hadgyakorlatain) — Kharon Briefing.

• Asimov és a pozitronikus agy: Isaac Asimov Robot-sorozatának klasszikus könyvborító-illusztrációi és korai sci-fi koncepciórajzai (Sajtóarchívum / Fair Use).
• Ghost Robotics Vision 60 / Codiaq: A Ghost Robotics és a Skyborne Technologies hivatalos haditechnikai bemutató- és sajtófotói — Ghost Robotics Media.
• Unitree fegyveres robotkutya: A Kínai Népi Felszabadító Hadsereg (PLA) hivatalos videós közvetítéséből származó képkockák az automata gépfegyveres egységekről — Unitree Press Release.
• Phantom MK-1 Humanoid: A Foundation Robotics által az ukrajnai védelmi minisztériumnak és a nemzetközi sajtónak átadott harctéri fotók — RBC Ukraine Photo Gallery.
• Városi MI drónmegfigyelés: Metropolitan Police (London) és európai rendőrségi Live Facial Recognition (Élő Arcfelismerő) kamerarendszerek illusztrációi (Creative Commons / DW archívum).

Bejegyzésmegtekintések száma: 188