passport:laws
Összehasonlítás
A kiválasztott és az jelenlegi változat között az alábbi különbségek fordulnak elő:
| Előző változat mindkét oldalonElőző változatKövetkező változat | Előző változat | ||
| passport:laws [2026/07/31 16:38] – vamsan | passport:laws [2026/07/31 18:42] (aktuális) – vamsan | ||
|---|---|---|---|
| Sor 1: | Sor 1: | ||
| ====== LAWS ====== | ====== LAWS ====== | ||
| - | Amikor Isaac Asimov 1942-ben leírta a robotika három alaptörvényét, | + | Amikor |
| Asimov hitt abban, hogy a logika és a mérnöki precizitás képes gátat szabni az erőszaknak. Ez a hit azonban, mint azt a jelenünk bizonyítja, | Asimov hitt abban, hogy a logika és a mérnöki precizitás képes gátat szabni az erőszaknak. Ez a hit azonban, mint azt a jelenünk bizonyítja, | ||
| Sor 6: | Sor 6: | ||
| Nemrég utaltam a blogon a **LAWS** (//Lethal Autonomous Weapons Systems//), vagyis a halálos autonóm fegyverrendszerek fogalmára, abban a bejegyzésben, | Nemrég utaltam a blogon a **LAWS** (//Lethal Autonomous Weapons Systems//), vagyis a halálos autonóm fegyverrendszerek fogalmára, abban a bejegyzésben, | ||
| - | Ha meg akarjuk érteni, miért tart ma a haditechnika és a mesterséges intelligencia pontosan ott, ahol, fel kell adnunk az asimovi idealizmust. Helyette William Gibson sötét, de sokkal reálisabb cyberpunk víziói felé kell fordulnunk, mert Gibson sokkal jobban ismerte az emberi alaptermészetet. | + | Ha meg akarjuk érteni, miért tart ma a haditechnika és a mesterséges intelligencia pontosan ott, ahol, fel kell adnunk az asimovi idealizmust. Helyette |
| + | |||
| + | {{ : | ||
| ==== Mi az a LAWS? ==== | ==== Mi az a LAWS? ==== | ||
| - | A hivatalos megfogalmazások (például az Amerikai Védelmi Minisztérium (DoD) irányelvei) szerint a LAWS olyan fegyverrendszer, | + | A hivatalos megfogalmazások (például az //Amerikai Védelmi Minisztérium// (**DoD**) irányelvei) szerint a LAWS olyan fegyverrendszer, |
| A szakértők az autonómiát általában három szint szerint csoportosítják: | A szakértők az autonómiát általában három szint szerint csoportosítják: | ||
| Sor 23: | Sor 25: | ||
| <WRAP center round box 100%> | <WRAP center round box 100%> | ||
| - | **Asimov | + | **A robotika |
| 0. A robot nem árthat az emberiségnek, | 0. A robot nem árthat az emberiségnek, | ||
| 1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenségével tűrnie, hogy emberi lény kárt szenvedjen. \\ | 1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenségével tűrnie, hogy emberi lény kárt szenvedjen. \\ | ||
| Sor 29: | Sor 31: | ||
| 3. A robot tartozik megvédeni a saját egzisztenciáját, | 3. A robot tartozik megvédeni a saját egzisztenciáját, | ||
| </ | </ | ||
| - | |||
| Asimov világa feltételezte, | Asimov világa feltételezte, | ||
| - | De Asimov kihagyta a képletből az emberi természet legsötétebb, | ||
| - | Gibson realizmusa: A technológia az emberi gyarlóság tükre | ||
| - | Ahol Asimov tiszta laboratóriumokat és logikus robotokat látott, ott William Gibson meglátta a húst, a vért, a neonfényben úszó mocskot és a gátlástalan kapitalizmust. Gibson teljes életműve – a Sprawl-trilógiától (Neuromancer, | ||
| - | Gibson zsenialitása abban rejlett, hogy megértette az emberi alaptermészetet. Tudta, hogy ha az emberiség kezébe adunk egy istenszerű technológiát (mint az MI), az ember nem egy morális védőpajzsot fog belőle kovácsolni, | ||
| - | Gibson világában nincsenek beégetett morális törvények. Csak érdekek vannak, a szoftverek pedig pontosan olyan könyörtelenek, | ||
| - | A LAWS a két világ határán: A gibsoni jelen | ||
| - | Ma pontosan ebben a gibsoni realizmusban élünk. Amikor a modern hadseregek kifejlesztik a LAWS-t, a fegyverkezési verseny és a geopolitikai túlélés kényszeríti ki őket. A hadviselés logikája nem a morál, hanem a hatékonyság és a sebesség. Ha egy algoritmus ezredmásodpercek alatt képes azonosítani és megsemmisíteni egy célpontot emberi beavatkozás nélkül (Human-out-of-the-loop), | ||
| - | A valóságban a törvényeket nemhogy valóságra váltották, | ||
| - | • Autonóm vadászok: A mai loitering muníciók (öngyilkos drónok) már képesek arra, hogy a kapcsolat megszakadása után maguk válasszák ki az áldozatukat arc- vagy hőtérkép alapján. | ||
| - | • A felelősség elpárolgása: | ||
| - | A loitering muníció (magyar katonai műszóval „lézengő lőszer”, „kóborló lőszer” vagy a köznyelvben kamikaze drón, öngyilkos drón) egy olyan modern fegyvertípus, | + | Asimov azonban -- sajnos -- kihagyta a képletből az emberi természet legsötétebb, |
| + | |||
| + | {{ : | ||
| + | |||
| + | ==== Gibson realizmusa ==== | ||
| + | Ahol Asimov tiszta laboratóriumokat és logikus robotokat látott, ott **William Gibson** meglátta a húst, a vért, a neonfényben úszó mocskot és a gátlástalan kapitalizmust. Gibson teljes életműve – a Sprawl-trilógiától (**Neuromancer**, | ||
| + | |||
| + | Gibson zsenialitása abban rejlett, hogy megértette az emberi alaptermészetet. Tudta, hogy ha az emberiség kezébe adunk egy istenszerű technológiát (mint az **MI**), az ember nem egy morális védőpajzsot fog belőle kovácsolni, | ||
| + | |||
| + | A mesterséges intelligenciák (mint **Wintermute** vagy **Neuromancer**) nem az emberiség jólétéért dolgozó gondnokok, hanem megfoghatatlan, | ||
| + | |||
| + | {{ : | ||
| + | |||
| + | ==== A LAWS a két világ határán: A gibsoni jelen ==== | ||
| + | Ma pontosan ebben a gibsoni realizmusban élünk. Amikor a modern hadseregek kifejlesztik a LAWS-t, a fegyverkezési verseny és a geopolitikai túlélés kényszeríti ki őket. A hadviselés logikája nem a morál, hanem a hatékonyság és a sebesség. Ha egy algoritmus ezredmásodpercek alatt képes azonosítani és megsemmisíteni egy célpontot emberi beavatkozás nélkül (**Human-out-of-the-loop**), | ||
| + | |||
| + | Az asimovi törvényeket nemhogy valóságra váltották, | ||
| + | |||
| + | A mai loitering muníciók (öngyilkos drónok) már képesek arra, hogy a kapcsolat megszakadása után maguk válasszák ki az áldozatukat arc- vagy hőtérkép alapján. Gibson megjósolta, | ||
| + | |||
| + | <WRAP center round box 100%> | ||
| + | A **loitering muníció** (magyar katonai műszóval | ||
| + | |||
| + | A kifejezésben a loitering szó szerint | ||
| + | |||
| + | A drón berepül a kijelölt harci zóna fölé, és ott percekig vagy akár órákig köröz (//„lézeng”//) a levegőben, vagy várakozik a földön, és a beépített kamerái, hőkamerái vagy radarérzékelői segítségével pásztázza a környezetét, célpontok (például harckocsik, radarok, katonai egységek) után kutatva. Ha észleli | ||
| + | </ | ||
| + | |||
| + | {{ : | ||
| + | |||
| + | ==== Nem a jövő, hanem a ma ==== | ||
| + | Bár a // | ||
| + | |||
| + | * **Kargu-2 és Switchblade drónok:** Olyan öngyilkos (// | ||
| + | * **Bullfrog rendszer:** Az amerikai tengerészgyalogság által tesztelt automata fegyverrendszer, | ||
| + | |||
| + | ==== „Békés” vs fegyveres robotok ==== | ||
| + | Sokan úgy gondolják, hogy a híres, szaltózó humanoidokat és robotkutyákat fejlesztő **Boston Dynamics** áll a LAWS fejlesztések mögött. A valóságban a cég (több más vezető robotikai vállalattal együtt) 2022-ben aláírt egy etikai nyilatkozatot, | ||
| - | A jelen valósága: Nem a jövő, hanem a ma | ||
| - | Bár a „gyilkos robot” kifejezés futurisztikusan hangzik, kezdetleges autonóm rendszereket (például tengeri és légvédelmi rakétaelhárító pajzsokat, mint a Phalanx vagy a Patriot) már régóta használ a katonaság. A modern konfliktusokban – mint az ukrajnai vagy a gázai háború – azonban egyre közelebb kerülünk a teljes MI-vezérelt támadásokhoz. | ||
| - | • Kargu-2 és Switchblade drónok: Olyan öngyilkos (loitering) muníciók, amelyek képesek önállóan felismerni a célpontokat a beépített szenzorok segítségével. | ||
| - | • Bullfrog rendszer: Az amerikai tengerészgyalogság által tesztelt automata fegyverrendszer, | ||
| - | A „békés” robotok és a fegyveres klónok: A Boston Dynamics-félreértés | ||
| - | Sokan úgy gondolják, hogy a híres, szaltózó humanoidokat és robotkutyákat fejlesztő Boston Dynamics áll a LAWS fejlesztések mögött. A valóságban a cég (több más vezető robotikai vállalattal együtt) 2022-ben aláírt egy etikai nyilatkozatot, | ||
| A hadiipar azonban nem tűri az asimovi önkorlátozást, | A hadiipar azonban nem tűri az asimovi önkorlátozást, | ||
| - | • Ghost Robotics (Vision 60): Ez a cég nem finomkodik az etikával. Az ő négylábú robotplatformjukra (Vision 60) a Skyborne Technologies nevű hadiipari fejlesztő közvetlenül szerelt fel sörétes puskát, gránátvetőt és távvezérelt fegyverrendszereket. A CODIAQ névre keresztelt fegyveres robotkutya már a Pentagon által jóváhagyott, | ||
| - | • A kínai Unitree és a fegyveres hadsereg: Kína (például a Unitree Robotics révén) elképesztő sebességgel ontja magából az olcsó, strapabíró robotkutyákat és humanoidokat. A kínai hadsereg hadgyakorlatain rendszeresen láthatók olyan gépfegyverrel felszerelt robotkutyák, | ||
| - | A humanoidok hadba vonulása: Az Optimus és a Phantom | + | * **Ghost Robotics (Vision 60):** Ez a cég nem finomkodik az etikával. |
| - | Ha a négylábúak nem lennének elég félelmetesek, | + | * **A kínai Unitree és a fegyveres hadsereg:** Kína (például a Unitree Robotics révén) elképesztő sebességgel ontja magából az olcsó, strapabíró robotkutyákat és humanoidokat. A kínai hadsereg hadgyakorlatain rendszeresen láthatók olyan gépfegyverrel felszerelt robotkutyák, |
| - | A disztópia pedig már nem a tesztlaborokban zajlik: | + | |
| - | • Miközben a Tesla még az Optimus tömeggyártását készíti elő, az amerikai hadsereggel szerződött védelmi cégek már bevetették a világ első, kifejezetten katonai célra épített humanoidját, | + | {{ : |
| - | • A helyzet geopolitikai feszültségét jól mutatja, hogy az USA kormánya biztonsági és adatvédelmi kockázatokra hivatkozva teljesen kitiltotta a külföldi (főleg kínai) humanoid és négylábú robotok importját, hogy ezzel is védje a hazai AI és robotikai ellátási láncot | + | |
| + | ==== Optimus és a Phantom | ||
| + | Ha a négylábúak nem lennének elég félelmetesek, | ||
| + | |||
| + | Musk ugyanakkor az anyagi és MI-befolyását követelve az befektetők | ||
| + | |||
| + | A disztópia pedig már nem a tesztlaborokban zajlik. Miközben a Tesla még az Optimus tömeggyártását készíti elő, az amerikai hadsereggel szerződött védelmi cégek már bevetették a világ első, kifejezetten katonai célra épített humanoidját, | ||
| A kör bezárult. Asimov gyárai békés munkásrobotokról álmodtak. Gibson valósága viszont az, hogy mire a Tesla Optimus vagy a kínai Agibot robotok kilépnek a gyárkapun, a hadseregek már szoftveresen és hardveresen is készen állnak arra, hogy fegyvert adjanak a kezükbe, kiiktatva a humán faktort a lövészárkokban. | A kör bezárult. Asimov gyárai békés munkásrobotokról álmodtak. Gibson valósága viszont az, hogy mire a Tesla Optimus vagy a kínai Agibot robotok kilépnek a gyárkapun, a hadseregek már szoftveresen és hardveresen is készen állnak arra, hogy fegyvert adjanak a kezükbe, kiiktatva a humán faktort a lövészárkokban. | ||
| - | A hátország: | + | |
| - | Ne legyenek illúzióink: ezek a technológiák nem fognak megállni a frontvonalakon. A történelem megtanította, | + | ==== LAWS az utcákon ==== |
| + | Ne legyenek illúzióink; ezek a technológiák nem fognak megállni a frontvonalakon. A történelem megtanította, | ||
| Ugyanez a szivárgás zajlik most a LAWS mögötti mesterséges intelligenciával és robotikával is: | Ugyanez a szivárgás zajlik most a LAWS mögötti mesterséges intelligenciával és robotikával is: | ||
| - | • Drónprogramok a nagyvárosokban: | + | * **Drónprogramok a nagyvárosokban: |
| - | • A biometrikus megfigyelés legalizálása: | + | * **A biometrikus megfigyelés legalizálása: |
| - | • Algoritmikus gyanúsítás: | + | * **Algoritmikus gyanúsítás: |
| - | Amikor egy autonóm katonai drón megtanul emberi jóváhagyás nélkül célpontot követni, a szoftverét nem kell átírni ahhoz, hogy holnap egy európai vagy amerikai világváros felett kiszűrje a tüntetőket, | + | {{ : |
| + | Amikor egy autonóm katonai drón megtanul emberi jóváhagyás nélkül célpontot követni, a szoftverét nem kell átírni ahhoz, hogy holnap egy európai vagy amerikai világváros felett kiszűrje a tüntetőket, | ||
| + | |||
| + | ==== Skynet-paradoxon ==== | ||
| + | //Az emberiség válaszút előtt áll// – lehetne így, meglehetősen közhelyesen folytatni a bejegyzést, | ||
| + | |||
| + | Asimov három törvénye ma már csak egy letűnt, optimista kor naiv emléke. Gibson sötét, pragmatikus jelenében élünk, és ez a világ közelebb van a Terminator **Skynet**-féle disztópiájához, | ||
| + | |||
| + | A legfélelmetesebb ugyanis az, hogy a Skynet-féle globális katasztrófához vagy a gépek lázadásához még csak öntudatra sincs szüksége a mesterséges intelligenciának. Nem kell, hogy a gép // | ||
| - | A Skynet-paradoxon: | ||
| - | Az emberiség válaszút előtt áll – lehetne így, meglehetősen közhelyesen folytatni a bejegyzést, | ||
| - | Asimov három törvénye ma már csak egy letűnt, optimista kor naiv emléke. Gibson sötét, pragmatikus jelenében élünk, és ez a világ közelebb van a Terminator Skynet-féle disztópiájához, | ||
| - | A legfélelmetesebb ugyanis az, hogy a Skynet-féle globális katasztrófához vagy a gépek lázadásához még csak öntudatra sincs szüksége a mesterséges intelligenciának. Nem kell, hogy a gép „gyűlölje” az embert. Elég, ha egy teljesen rideg, érzelemmentes matematikai parancsot kap, és a hálózatba kapcsolt, autonóm fegyverek egy szoftverhiba vagy egy rosszul értelmezett parancs miatt logikusnak találják az emberiség likvidálását. | ||
| A fegyverek már a saját kódjuk szerint repülnek és menetelnek. A kérdés már nem az, hogy megtaníthatjuk-e a gépeket tisztelni az emberi életet, hanem az, hogy képesek vagyunk-e kihúzni a csatlakozót, | A fegyverek már a saját kódjuk szerint repülnek és menetelnek. A kérdés már nem az, hogy megtaníthatjuk-e a gépeket tisztelni az emberi életet, hanem az, hogy képesek vagyunk-e kihúzni a csatlakozót, | ||
| + | |||
| Te mit gondolsz? Mennyire reális veszély, hogy a fegyverkezési verseny végén tényleg megalkotjuk a saját Skynetünket? | Te mit gondolsz? Mennyire reális veszély, hogy a fegyverkezési verseny végén tényleg megalkotjuk a saját Skynetünket? | ||
| - | Írjátok meg a véleményeteket kommentben a Bolyongó Facebook oldalán! | ||
| + | {{page> | ||
| + | |||
| + | {{page> | ||
| + | |||
| + | ==== Források ==== | ||
| + | A bejegyzés megírásához a Gemini AI segítségét is igénybe vettem. | ||
| + | |||
| + | * **Amerikai Védelmi Minisztérium (DoD):** //Directive 3000.09 - Autonomy in Weapon Systems// (A Pentagon hivatalos katonai irányelvei az autonóm fegyverrendszerek fejlesztéséről és az emberi felügyelet szintjeiről) — [[https:// | ||
| + | * **Human Rights Watch (HRW) & Stop Killer Robots:** //A nemzetközi humanitárius jog és az önműködő fegyverek jogi szabályozása// | ||
| + | * **Militarnyi Defence Journal:** //Humanoid Robots on the Battlefield// | ||
| + | * **Ghost Robotics Corp:** //Vision 60 QUGV - Mid-Sized Quadrupedal Unmanned Ground Vehicle// (A katonai és rendvédelmi célra szánt, éles lőfegyver-platformokkal kompatibilis robotkutya hivatalos műszaki adatlapja) — [[https:// | ||
| + | * **Deutsche Welle (DW) Tech:** //Civilian AI Surveillance and Data Fusion in Europe// (A harctéri és a nagyvárosi MI-alapú rendőrségi tömeges megfigyelőrendszerek, | ||
| + | * **Kharon Geopolitical Research:** //Unitree Robotics and the PLA Procurement// | ||
| + | |||
| + | ==== Kép-forrásjegyzék ==== | ||
| + | * **Asimov és a pozitronikus agy:** Isaac Asimov Robot-sorozatának klasszikus könyvborító-illusztrációi és korai sci-fi koncepciórajzai (Sajtóarchívum / Fair Use). | ||
| + | * **Ghost Robotics Vision 60 / Codiaq:** A Ghost Robotics és a Skyborne Technologies hivatalos haditechnikai bemutató- és sajtófotói — [[https:// | ||
| + | * **Unitree fegyveres robotkutya: | ||
| + | * **Phantom MK-1 Humanoid:** A Foundation Robotics által az ukrajnai védelmi minisztériumnak és a nemzetközi sajtónak átadott harctéri fotók — [[https:// | ||
| + | * **Városi MI drónmegfigyelés: | ||
| + | |||
| + | {{tag> | ||
| + | |||
| + | ~~NOCACHE~~ | ||
| + | Bejegyzésmegtekintések száma: {{counter|total}} | ||
passport/laws.1785508693.txt.gz · legutóbbi módosítás: – Szerkesztő: vamsan
