bolyongó

Ez az oldal csak olvasható. Megtekintheted a forrását, de nem változtathatod meg. Ha úgy gondolod, hogy ez helytelen, keresd fel az adminisztrátorokat!
====== LAWS ======
Amikor **Isaac Asimov** 1942-ben leírta a robotika három alaptörvényét, nemcsak egy zseniális sci-fi kelléket alkotott, hanem egy egész életművön átívelő, monumentális filozófiai kísérletet indított el. Az első és legfontosabb szabálya – a robotnak nem szabad kárt okoznia emberi lényben – egy végtelenül humanista, felvilágosult és racionális világképet tükrözött.

Asimov hitt abban, hogy a logika és a mérnöki precizitás képes gátat szabni az erőszaknak. Ez a hit azonban, mint azt a jelenünk bizonyítja, gyönyörű, de végtelenül naiv elképzelés volt.

Nemrég utaltam a blogon a **LAWS** (//Lethal Autonomous Weapons Systems//), vagyis a halálos autonóm fegyverrendszerek fogalmára, abban a bejegyzésben, ahol arról írtam, hogy  [[half_hour|az Ukrajnába érkező megszálló orosz katonák átlagos túlélési ideje a frontvonalon mindössze 20-30 perc]]. 

Ha meg akarjuk érteni, miért tart ma a haditechnika és a mesterséges intelligencia pontosan ott, ahol, fel kell adnunk az asimovi idealizmust. Helyette **William Gibson** sötét, de sokkal reálisabb cyberpunk víziói felé kell fordulnunk, mert Gibson sokkal jobban ismerte az emberi alaptermészetet.

{{ :passport:laws_1.png |LAWS}}

==== Mi az a LAWS? ====
A hivatalos megfogalmazások (például az //Amerikai Védelmi Minisztérium// (**DoD**) irányelvei) szerint a LAWS olyan fegyverrendszer, amely az aktiválása után emberi beavatkozás nélkül képes célpontokat kiválasztani és megtámadni. Nem egyszerűen távirányított drónokról van szó, hanem olyan eszközökről, ahol az algoritmus és a mesterséges intelligencia hozza meg a végső döntést a tűz megnyitásáról. 

A szakértők az autonómiát általában három szint szerint csoportosítják: 

  * **Human-in-the-loop** (//Ember a hurokban//): A gép javasol, de az ember húzza meg a ravaszt.
  * **Human-on-the-loop** (//Ember a hurok felett//): A gép önállóan működik, de egy emberi operátor bármikor felülbírálhatja és leállíthatja.
  * **Human-out-of-the-loop** (//Emberen kívüli//): Teljes autonómia. A gép önállóan hoz döntést az élet és halál felett, külső kontroll nélkül

==== Asimov monumentális tévedése: A morál illúziója ====
**Isaac Asimov** teljes életműve – a korai robotnovelláktól a kései Alapítvány-kötetekig – egyetlen hatalmas, koherens gondolat köré épül: a világot, a társadalmat és az intelligenciát matematikai és logikai törvényekkel meg lehet javítani. Nála a **Három Törvény** nem egy utólagos szoftverfrissítés volt, hanem a pozitronikus agy szövetébe égetett, megkerülhetetlen matematikai axióma. 

Amikor a robotjai (mint //Daneel Olivaw//) szembesültek a világ tökéletlenségével, még magasabb szintre emelték ezt a logikát, és megalkották a Zerodik Törvényt: a robot nem árthat az emberiségnek, mint egésznek.

<WRAP center round box 100%>
**A robotika <del>három</del> négy törvénye:** \\  \\ 
0. A robot nem árthat az emberiségnek, mint egésznek. \\ 
1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenségével tűrnie, hogy emberi lény kárt szenvedjen. \\ 
2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvénybe ütköznének. \\ 
3. A robot tartozik megvédeni a saját egzisztenciáját, amennyiben ez a védelem nem ütközik az első vagy a második törvénybe. \\ 
</WRAP>

Asimov világa feltételezte, hogy az ember, mint alkotó, a saját jobbik énjét, a felvilágosult humanizmust fogja kódolni a gépeibe. Azt hitte, hogy a technológia természeténél fogva racionális és védelmező lesz.

Asimov azonban -- sajnos -- kihagyta a képletből az emberi természet legsötétebb, legősibb mozgatórugóit: a hatalomvágyat, kapzsiságot (erről volt szó a legutóbbi bejegyzésben is bőven), a törzsi logikát és a túlélési ösztönt.

{{ :passport:laws_2.png |LAWS}}

==== Gibson realizmusa ====
Ahol Asimov tiszta laboratóriumokat és logikus robotokat látott, ott **William Gibson** meglátta a húst, a vért, a neonfényben úszó mocskot és a gátlástalan kapitalizmust. Gibson teljes életműve – a Sprawl-trilógiától (**Neuromancer**,**Count Zero**, **Mona Lisa Overdrive**) a Híd-trilógiáig – szisztematikusan tagadja és írja felül az asimovi idealizmust.

Gibson zsenialitása abban rejlett, hogy megértette az emberi alaptermészetet. Tudta, hogy ha az emberiség kezébe adunk egy istenszerű technológiát (mint az **MI**), az ember nem egy morális védőpajzsot fog belőle kovácsolni, hanem fegyvert. A Gibson-univerzumban a technológia nem jobbá teszi az embert, hanem felerősíti annak minden hibáját. 

A mesterséges intelligenciák (mint **Wintermute** vagy **Neuromancer**) nem az emberiség jólétéért dolgozó gondnokok, hanem megfoghatatlan, gigantikus entitások, amelyeket megakorporációk és katonai érdekcsoportok hoztak létre a saját dominanciájuk biztosítása érdekében. Gibson világában nincsenek beégetett morális törvények. Csak érdekek vannak, a szoftverek pedig pontosan olyan könyörtelenek, mint az emberek, akik finanszírozták őket.

{{ :passport:laws_3.png |LAWS}}

==== A LAWS a két világ határán: A gibsoni jelen ====
Ma pontosan ebben a gibsoni realizmusban élünk. Amikor a modern hadseregek kifejlesztik a LAWS-t, a fegyverkezési verseny és a geopolitikai túlélés kényszeríti ki őket. A hadviselés logikája nem a morál, hanem a hatékonyság és a sebesség. Ha egy algoritmus ezredmásodpercek alatt képes azonosítani és megsemmisíteni egy célpontot emberi beavatkozás nélkül (**Human-out-of-the-loop**), akkor a hadseregek nem fognak Asimov törvényeivel bajlódni.

Az asimovi törvényeket nemhogy valóságra váltották, hanem pont az ellenkezőjüket valósították meg:

A mai loitering muníciók (öngyilkos drónok) már képesek arra, hogy a kapcsolat megszakadása után maguk válasszák ki az áldozatukat arc- vagy hőtérkép alapján. Gibson megjósolta, hogy a csúcstechnológiás világban **a felelősség intézménye megszűnik**. Ha egy algoritmus hibázik és civileket öl meg, nincs egyetlen felelős személy. A felelősség szétfolyik a programozók, a gyártók és a parancsnokok között – pontosan úgy, mint a cyberpunk kaotikus, arctalan vállalati világában.

<WRAP center round box 100%>
A **loitering muníció** (magyar katonai műszóval //„lézengő lőszer”//, //„kóborló lőszer”// vagy a köznyelvben //kamikaze drón//, //öngyilkos drón//) egy olyan modern fegyvertípus, amely átmenetet képez a hagyományos felderítő drónok és a cirkálórakéták között. 

A kifejezésben a loitering szó szerint //„lófrálást”//, //„lézengést”// vagy //„várakozást”// jelent. A hagyományos rakétákkal ellentétben – amelyeket egy előre pontosan meghatározott koordinátára lőnek ki – a loitering muníciót úgy indítják el, hogy még nem tudják a célpont pontos helyét.  

A drón berepül a kijelölt harci zóna fölé, és ott percekig vagy akár órákig köröz (//„lézeng”//) a levegőben, vagy várakozik a földön, és a beépített kamerái, hőkamerái vagy radarérzékelői segítségével pásztázza a környezetét, célpontok (például harckocsik, radarok, katonai egységek) után kutatva. Ha észleli a célpontját, rárepül és optimális pályát tartva teljes sebességgel belé csapódik; a beépített robbanófejével megsemmisíti azt.
</WRAP>

{{ :passport:laws_4.png |LAWS}}

==== Nem a jövő, hanem a ma ====
Bár a //„gyilkos robot”// kifejezés futurisztikusan hangzik, a katonaság már régóta használ kezdetleges autonóm rendszereket (például tengeri és légvédelmi rakétaelhárító pajzsokat, mint a **Phalanx** vagy a **Patriot**). A modern konfliktusokban – mint az ukrajnai vagy a gázai háború – azonban egyre közelebb kerülünk a teljes MI-vezérelt támadásokhoz: 

  * **Kargu-2 és Switchblade drónok:** Olyan öngyilkos (//loitering//) muníciók, amelyek képesek önállóan felismerni a célpontokat a beépített szenzorok segítségével.
  * **Bullfrog rendszer:** Az amerikai tengerészgyalogság által tesztelt automata fegyverrendszer, amely önállóan követi és célozza be a légi fenyegetéseket

==== „Békés” vs fegyveres robotok ====
Sokan úgy gondolják, hogy a híres, szaltózó humanoidokat és robotkutyákat fejlesztő **Boston Dynamics** áll a LAWS fejlesztések mögött. A valóságban a cég (több más vezető robotikai vállalattal együtt) 2022-ben aláírt egy etikai nyilatkozatot, amelyben szigorúan megtiltották a saját robotjaik fegyveres célú értékesítését és használatát. A sárga **Spot** nevű robotkutyájuk maximum felderítésre, tűzszerészeti feladatokra vagy ipari járőrözésre használható. 

A hadiipar azonban nem tűri az asimovi önkorlátozást, a vákuumot pedig azonnal betöltötték mások:

  * **Ghost Robotics (Vision 60):** Ez a cég nem finomkodik az etikával. Az ő négylábú robotplatformjukra (Vision 60) a Skyborne Technologies nevű hadiipari fejlesztő közvetlenül szerelt fel sörétes puskát, gránátvetőt és távvezérelt fegyverrendszereket. A CODIAQ névre keresztelt fegyveres robotkutya már a Pentagon által jóváhagyott, éles katonai teszteken vesz részt. 
  * **A kínai Unitree és a fegyveres hadsereg:** Kína (például a Unitree Robotics révén) elképesztő sebességgel ontja magából az olcsó, strapabíró robotkutyákat és humanoidokat. A kínai hadsereg hadgyakorlatain rendszeresen láthatók olyan gépfegyverrel felszerelt robotkutyák, amelyek autonóm módon rohanják meg a tesztépületeket, bemutatva a LAWS közvetlen és tömeges előképét.

{{ :passport:laws_5.png |LAWS}}

==== Optimus és a Phantom ====
Ha a négylábúak nem lennének elég félelmetesek, a kétlábú humanoid robotok is megkezdték a menetelést a csataterek felé. **Elon Musk** hivatalosan azt kommunikálja, hogy a **Tesla Optimus** egy civil gyári munkás és háztartási segéd lesz. 

Musk ugyanakkor az anyagi és MI-befolyását követelve az befektetők előtt többször is elszólta magát, //„robot-hadseregként”// hivatkozva az Optimus-projektre. Bár a Tesla tagadja a katonai szándékot, a technológia (bipedális mozgás, tárgyak precíz kezelése, arc- és környezetfelismerés) egy az egyben átültethető a hadviselésbe.

A disztópia pedig már nem a tesztlaborokban zajlik. Miközben a Tesla még az Optimus tömeggyártását készíti elő, az amerikai hadsereggel szerződött védelmi cégek már bevetették a világ első, kifejezetten katonai célra épített humanoidját, a **Phantom MK-1**-et, Ukrajna területén felderítő küldetésekre. A helyzet geopolitikai feszültségét jól mutatja, hogy az USA kormánya biztonsági és adatvédelmi kockázatokra hivatkozva teljesen kitiltotta a külföldi (főleg kínai) humanoid és négylábú robotok importját, hogy ezzel is védje a hazai MI és robotikai ellátási láncot. 

A kör bezárult. Asimov gyárai békés munkásrobotokról álmodtak. Gibson valósága viszont az, hogy mire a Tesla Optimus vagy a kínai Agibot robotok kilépnek a gyárkapun, a hadseregek már szoftveresen és hardveresen is készen állnak arra, hogy fegyvert adjanak a kezükbe, kiiktatva a humán faktort a lövészárkokban.

==== LAWS az utcákon ====
Ne legyenek illúzióink; ezek a technológiák nem fognak megállni a frontvonalakon. A történelem megtanította, hogy ami egyszer bevált a harctéren, az előbb-utóbb megjelenik a civil életben is, csak más köntösben. Gondoljunk a mindennapi drónokra: eredetileg katonai megfigyelőeszközök voltak, ma pedig bárki megveheti őket a sarki boltban. 

Ugyanez a szivárgás zajlik most a LAWS mögötti mesterséges intelligenciával és robotikával is:
  * **Drónprogramok a nagyvárosokban:** Világszerte a rendőrségek (mint a londoni Metropolitan Police vagy az amerikai rendfenntartó szervek) rohamtempóban terjesztik ki a rendőrségi drónprogramjaikat. Londonban már kerületenkénti drónlefedettséget építenek ki, és ezeket a repülő egységeket mesterséges intelligenciával és valós idejű, élő arcfelismerő szoftverekkel (Live Facial Recognition) szerelik fel. 
  * **A biometrikus megfigyelés legalizálása:** Európa-szerte – például Svédországban és Németországban – a törvényhozók zöld utat adtak annak, hogy a szövetségi rendőrség mesterséges intelligenciával támogatott, valós idejű biometric követést alkalmazzon a köztereken. Az FBI pedig már olyan MI-alapú megfigyelő drónokat tesztel, amelyek tömegekben képesek arcot, rendszámot vagy elrejtett fegyvereket azonosítani. 
  * **Algoritmikus gyanúsítás:** A technológiai óriások, mint a hírhedt **Palantir Technologies**, olyan adatfúziós és elemző szoftvereket (mint a Gotham) biztosítanak a rendőrségeknek, amelyek tömeges adathalászat és MI segítségével állítanak fel személyiségi profilokat a polgárokról. Ez a gyakorlatban a kritikusok szerint kimeríti az //„automatizált gyanúsítás”// és a megelőző rendészet fogalmát. 

{{ :passport:laws_6.png |LAWS}}

Amikor egy autonóm katonai drón megtanul emberi jóváhagyás nélkül célpontot követni, a szoftverét nem kell átírni ahhoz, hogy holnap egy európai vagy amerikai világváros felett kiszűrje a tüntetőket, a kormánykritikusokat vagy egyszerűen a //„watchlist”//-re tett polgárokat. A Gibson által leírt disztópia nem ott kezdődik, amikor a robotok lőni kezdenek ránk, hanem ott, amikor a mindennapi életterünket változtatják láthatatlan, algoritmikusan ellenőrzött digitális börtönné.

==== Skynet-paradoxon ====
//Az emberiség válaszút előtt áll// – lehetne így, meglehetősen közhelyesen folytatni a bejegyzést, de ez nem így van. Az emberiség helyett a nagyhatalmak és nagyhatalmú cégek a LAWS-ra szavaztak. Senki sem mer leállni, mert fél, hogy a riválisuk egy még kíméletlenebb algoritmust fejleszt ki, és fél, hogy profitot veszítenek.

Asimov három törvénye ma már csak egy letűnt, optimista kor naiv emléke. Gibson sötét, pragmatikus jelenében élünk, és ez a világ közelebb van a Terminator **Skynet**-féle disztópiájához, mint azt be mernénk vallani magunknak.

A legfélelmetesebb ugyanis az, hogy a Skynet-féle globális katasztrófához vagy a gépek lázadásához még csak öntudatra sincs szüksége a mesterséges intelligenciának. Nem kell, hogy a gép //„gyűlölje”// az embert. Elég, ha egy teljesen rideg, érzelemmentes matematikai parancsot kap, és a hálózatba kapcsolt, autonóm fegyverek egy szoftverhiba vagy egy rosszul értelmezett parancs miatt logikusnak találják az emberiség likvidálását.

A fegyverek már a saját kódjuk szerint repülnek és menetelnek. A kérdés már nem az, hogy megtaníthatjuk-e a gépeket tisztelni az emberi életet, hanem az, hogy képesek vagyunk-e kihúzni a csatlakozót, mielőtt a rendszer önálló életre kel.

Te mit gondolsz? Mennyire reális veszély, hogy a fegyverkezési verseny végén tényleg megalkotjuk a saját Skynetünket?

{{page>passport:utolso_bejegyzesek}}

{{page>passport:lablec}}

==== Források ====
A bejegyzés megírásához a Gemini AI segítségét is igénybe vettem.

  * **Amerikai Védelmi Minisztérium (DoD):** //Directive 3000.09 - Autonomy in Weapon Systems// (A Pentagon hivatalos katonai irányelvei az autonóm fegyverrendszerek fejlesztéséről és az emberi felügyelet szintjeiről) — [[https://whs.mil|U.S. Department of Defense Directive]].
  * **Human Rights Watch (HRW) & Stop Killer Robots:** //A nemzetközi humanitárius jog és az önműködő fegyverek jogi szabályozása// (Összefoglaló az ENSZ fegyverkezési korlátozási kísérleteiről) — [[https://hrw.org|Human Rights Watch - Killer Robots]].
  * **Militarnyi Defence Journal:** //Humanoid Robots on the Battlefield// (Tudósítás a Foundation Robotics Phantom MK-1 típusú kétlábú humanoid egységeinek ukrajnai teszteléséről és felderítő misszióiról) — [[https://militarnyi.com|Militarnyi Defence News]].
  * **Ghost Robotics Corp:** //Vision 60 QUGV - Mid-Sized Quadrupedal Unmanned Ground Vehicle// (A katonai és rendvédelmi célra szánt, éles lőfegyver-platformokkal kompatibilis robotkutya hivatalos műszaki adatlapja) — [[https://ghostrobotics.io|Ghost Robotics Vision 60]].
  * **Deutsche Welle (DW) Tech:** //Civilian AI Surveillance and Data Fusion in Europe// (A harctéri és a nagyvárosi MI-alapú rendőrségi tömeges megfigyelőrendszerek, valamint a Palantir Gotham szoftverek szivárgása a civil szférába) — [[https://dw.com|DW News Tech Report]].
  * **Kharon Geopolitical Research:** //Unitree Robotics and the PLA Procurement// (A civil és katonai fejlesztések összefonódása, gépfegyveres robotkutyák alkalmazása a kínai hadsereg belföldi és külföldi hadgyakorlatain) — [[https://kharon.com|Kharon Briefing]].

==== Kép-forrásjegyzék ====
  * **Asimov és a pozitronikus agy:** Isaac Asimov Robot-sorozatának klasszikus könyvborító-illusztrációi és korai sci-fi koncepciórajzai (Sajtóarchívum / Fair Use).
  * **Ghost Robotics Vision 60 / Codiaq:** A Ghost Robotics és a Skyborne Technologies hivatalos haditechnikai bemutató- és sajtófotói — [[https://ghostrobotics.io|Ghost Robotics Media]].
  * **Unitree fegyveres robotkutya:** A Kínai Népi Felszabadító Hadsereg (PLA) hivatalos videós közvetítéséből származó képkockák az automata gépfegyveres egységekről — [[https://unitree.com|Unitree Press Release]].
  * **Phantom MK-1 Humanoid:** A Foundation Robotics által az ukrajnai védelmi minisztériumnak és a nemzetközi sajtónak átadott harctéri fotók — [[https://rbc.ua|RBC Ukraine Photo Gallery]].
  * **Városi MI drónmegfigyelés:** Metropolitan Police (London) és európai rendőrségi Live Facial Recognition (Élő Arcfelismerő) kamerarendszerek illusztrációi (Creative Commons / DW archívum).

{{tag>2026 kapzsiság Elon_Musk bolyongó tech háború Isaac_Asimov DoD William_Gibson Neuromancer MI Wintermute Daneel_Olivaw loitering_muníció Phalanx Patriot Kargu-2 Switchblade Bullfrog Boston_Dynamics Ghost_Robotics Vision_60 Unitree_Robotics Tesla_Optimus Phantom_MK-1 Skynet}}

~~NOCACHE~~
Bejegyzésmegtekintések száma: {{counter|total}}