Kiemelt bejegyzés

Többé nem frissülő blog

Ez a blog többé nem frissül. Az új cikkek új helyen, a molnarcsaba.wordpress.com címen érhetők el.

2015. július 1.

Gyilkos algoritmus

A robotrepülőgépek a modern hadviselés kedvelt eszközévé váltak. Segítségükkel úgy lehet viszonylag pontos csapást mérni az ellenségre, hogy saját embereink sok száz kilométerrel távolabb, tévén figyelik a támadás lezajlását. Sőt hamarosan talán maguk a robotok dönthetnek emberéletekről. Az utóbbi kérdést övező dilemma háttérbe szorítja a robotrepülők egyre terjedő polgári hasznosíthatóságát, amelyért magyar kutatók is dolgoznak.



Nem szokványos berendezési tárgy a többméteres szárnyfesztávolságú robotrepülő egy dékánhelyettes irodájában. Pláne kettő. Az elterjedt angol kifejezéssel drone-nak nevezett, önműködő repülésre képes repülőmodellek jelenléte arra utal, hogy Molnár András, az Óbudai Egyetem Neumann János Informatikai Karának oktatási dékánhelyettese munkaidejének egy részét érdekesebb elfoglaltságokkal tölti, mint a hallgatói indexek aláírogatása. Az általa vezetett kutatócsoport programozható robotrepülőket fejleszt, amelyeknek szinte minden elemét – a gépek testétől az általuk hordozott érzékelőkön keresztül az irányító szoftverekig – az egyetem szakemberei alkották meg.
– Amikor úgy tíz évvel ezelőtt elkezdtük a robotrepülő-kutatásokat, Magyarországon még nem volt modern drone. A korábban megépített repülők ránk maradtak, és most azon dolgozunk, hogy minél sokrétűbb alkalmazásokat fejlesszünk hozzájuk. Ma már lehet venni ilyet külföldről, de a mi repülőnk különlegessége az általunk épített érzékelőkben rejlik. Ezek például olyan légköri jellemzőket – hőmérsékletet, páratartalmat, gázok koncentrációját – tudnak mérni, amelyek hasznosak lehetnek katasztrófahelyzetben – mutatja a motoros vitorlázórepülőhöz hasonló modell tetején lévő dobozt Molnár András. – Egy másik repülőnkön hőkamerát helyeztünk el. Segítségével könnyen felismerhetők az izzó gócok is. A repülők felhasználását segíti, hogy önállóan képesek tájékozódni, némelyik még föl- és leszállni is tud egyedül, hasonló navigációs eszközökkel rendelkeznek, mint a nagy repülők.
A dékánhelyettes elmondása szerint hazánkban meglehetősen szabályozatlan terület a robotrepülők röptetése. Minden egyes felszálláshoz egyedi légügyi engedélyre van szükségük, nem úgy, mint a rádió-távvezérlésű repülőmodellek üzemeltetőinek. Egyébként e robotrepülők is működhetnek távirányítású modellként, hiszen a földi kezelők bármikor „bele tudnak nyúlni” a gép irányításába, és megszakíthatják az előre programozott repülési terv végrehajtását. Az Egyesült Államokban éppen most zajlik a drone-ok polgári felhasználását eddig tiltó törvények módosítása. Ez szükséges a robotrepülők képességeiben fantáziát látó befektetők megjelenéséhez. Ők a magyar drone-ok hasznosításához is elengedhetetlenek lennének, a Társadalmi megújulás operatív program Kritikus infrastruktúra-védelmi kutatások című pályázata által támogatott kutatóknak ugyanis nem céljuk a közvetlen piacra lépés.
– Mi nem szolgáltatunk, nem áruljuk az általunk tervezett, épített robotrepülőket, a mi feladatunk a kutatás. A drone-ok általános felhasználása viszont szerte a világon küszöbön áll. Mindez pedig jogi és biztonsági problémákat is fölvet. Ha ugyanis az efféle repülő eszközök elterjednek, jelenlétük a légi közlekedést veszélyeztetheti. Aktív pilótaként remélem, hogy soha nem találkozom ilyennel a levegőben, mert nem tudnám kikerülni. Amikor meglátnám, egyetlen esélyem az ütközés elkerülésére már csak az lenne, ha ő térne ki – tartja Molnár András. – Meg kell alkotni a működtetésük szabályait.
Szeptember elején egy robotrepülő támadást hajtott végre Jemenben. A csapásban tizenhárom civil halt meg, ám egyetlen terroristának sem esett bántódása. Az áldozatok hozzátartozói a fővárosba, Szanaába akarták szállítani a holttesteket, hogy a védelmi minisztérium épülete elé fektetve őket tiltakozzanak a támadás ellen, de a katonaság ezt megakadályozta. A védelmi minisztérium szerint ez a mostani támadás célt tévesztett. A megelőző héten azonban három hasonló történt, amelyek sikeresek voltak. Szinte hetente hallani célt tévesztett drone-támadásról szóló híreket, és így az az érzésünk támadhat, hogy a robotrepülő megbízhatatlan fegyver.
A statisztikák szerint azonban nem az, pontosabban ha számos akció összesített eredményeit tekintjük, kevésbé pontatlan, mint a hagyományos hadviselés eszközei (bár e tény nem vigasztalja az ártatlan áldozatok hozzátartozóit). Avery Plaw, a massachusettsi egyetem kutatója megvizsgálta a CIA Pakisztánban végrehajtott robotrepülős támadásainak eredményeit, tudósít a The New York Times. A korábbi tanulmányok négy–húsz százalékra becsülték ezek civil áldozatainak arányát. 2008 és 2011 között a támadások ártatlan áldozatainak hányada 28-ról 16 százalékra csökkent. Ezzel szemben, amikor a pakisztáni katonaság hagyományos fegyverekkel harcol a határvidéket ellenőrző terroristák ellen, az áldozatok 46 százaléka ártatlan. A korábbi háborús konfliktusokban még rosszabb volt ez az arány, hiszen Plaw szerint volt olyan háború, amelyben az áldozatok nyolcvan százaléka polgári személy volt. E becslések köszönő viszonyban sincsenek a pakisztáni hivatalos szervek becsléseivel, szerintük minden drone által megölt terroristára száznegyven ártatlan áldozat jut. A drone-ok egyre intenzívebb használatát erőltető Obama-adminisztráció szerint a támadás hatókörzetében lévő minden nagykorú férfi harcoló felkelőnek minősül, függetlenül attól, hogy fogott-e valaha fegyvert a kezébe. Ártatlanok így csak a nők, a gyerekek és a szövetséges katonák lehetnek.
A drone-bírálók a támadások morális aspektusára hívják fel a figyelmet. Azt számos pszichológiai kísérletben kimutatták már, hogy ha az áldozat kellő távolságra van tőlünk (nem kerülünk vele személyes kontaktusba), kevesebb fenntartással gyilkolunk, és utána kevésbé érzünk bűntudatot. Bár vannak vizsgálatok, amelyek szerint a robotrepülők irányítói hasonló lelki gyötrődésen mennek keresztül, mint a frontkatonák, az előbbi megállapítással a szakértők többsége egyetért. A média aprólékos tudósításai miatt a hátország lakossága sokkal intenzívebben együtt érez a messzi földön harcoló katonákkal, így nehezebben is viseli halálukat. A robotrepülők azonban csak gépek. Sokba kerülnek, de az embereket nem érdekli, ha párat lelőnek közülük. Ez a fő oka népszerűségüknek. Az aggódók szerint azonban ez a trend oda vezet hamarosan, hogy bárhol támad konfliktus a világban, tárgyalások helyett mindenkinek a robotrepülők jutnak eszébe először…
Sőt hamarosan talán már a piszkos munka tűzparancs kiadására vonatkozó részét is átvállalják tőlünk a robotok. A robotoktól a sok tudományos-fantasztikus mű hatására a legtöbben az emberéhez hasonló gondolkodási képességeket várnak. Valószínűleg maguk a tudósok is azt várták fél évszázaddal ezelőtt, hogy mára elérünk erre a szintre, de valójában még a közelében sem járunk. Arra azonban már képesek lehetnek ezek a gépek, hogy érzékelőik adatai alapján meghozzanak egy-egy egyszerűbb döntést. A robottechnológia jelenlegi fejlettségét látva erősen kérdéses, szabad-e engednünk, hogy emberi életekről döntsön a gép.
E dilemma korántsem új, az embereket már akkor is foglalkoztatta, amikor a robotok még csak a képzelet szülöttei voltak. A kérdéskört senki nem járta körül behatóbban, mint az orosz származású amerikai Isaac Asimov sci-fi író robottörténeteiben. Az általa 1942-ben lefektetett három robotikai törvény sokak szerint még ma is, a való életben is követendő lenne: 1. a robot nem bánthat embert; 2. a robotnak engedelmeskednie kell az embereknek, kivéve, ha ez az első törvény megszegésével jár; 3. a robotnak meg kell védenie magát, kivéve, ha ez az első két törvénybe ütközik. A jelenkori folyamatok egyáltalán nem felelnek meg Asimov elveinek (bár novelláinak történeteivel mutatnak hasonlóságot), hiszen a gyakorlati hasznosításhoz legközelebb álló, önálló döntésre képes robotok feladata éppen a gyilkolás lenne. A jelenleg használatos robotrepülők nem rendelkeznek e „halálos autonomitásnak” is nevezett képességgel, hiszen gyakorlatilag távirányítású repülőgépek. Bár nem pilótafülkéjükben ül irányítójuk, szinte minden lényeges lépésük emberi parancsra történik. Az önállóan gyilkoló robotok rengeteg aggasztó kérdést vetnek föl. Nem tudni például, hogy cselekedeteik végrehajtása után kit terhel a felelősség.
– Minden fegyver, amelyet emberi szándék állít rendszerbe, programoz és működtet, az alkalmazást és irányítást végzők felelősségéhez tartozik. Még az előre meghatározott programok alapján a feladatokat további utasítás nélkül végrehajtó fegyverek sem különböznek ezen a téren. A katonai célokra szánt robotok alkalmazása megegyezik az egykori vasfüggöny mentén, az NDK területén telepített – vagy talán csak tervezett, de végül meg nem valósult – mozgásérzékelők által automatikusan működésbe hozott géppuskákéval. Ott sem volt kérdéses, ki a felelős a fegyverek által okozott gyilkosságokért vagy sérülésekért – válaszolta kérdésünkre Törő Csaba, a Károli Gáspár Református Egyetem európai jogi és nemzetközi magánjogi tanszékének docense, a Magyar Külügyi Intézet tudományos főmunkatársa. – A fegyveres összeütközésekre és a fegyveres erő bevetésére vonatkozó nemzetközi szabályokat kell alkalmazni ezekre az új típusú fegyverekre is. A technológia változhat, de a nemzetközi jogi szabályok által védeni kívánt értékek és célok alapvetően ugyanazok maradnak. Még az államok által igazolhatónak tekintett fegyveres erőszak módszereit is korlátok közé szorította a nemzetközi szokásjog, majd a nemzetközi hadi- és humanitárius jog. Óriási technikai fejlődésen ment keresztül az emberiség rendelkezésére álló fegyverek arzenálja, de a jövőben sem lehet eltekinteni a szükségszerűség, az emberiesség és az arányosság alapvető követelményeitől.
A robot önálló döntési képessége akkor lehet hasznos a támadó fél szempontjából, ha az ellenség a távirányítás zavarására törekszik. Ilyen az irániak esete, akik tavaly elfogtak egy amerikai drone-t, írja a The Wall Street Journal. Ha a drone nem függ a földi irányítóktól, eltéríteni is nehezebb a céljától. De leállítani is nehezebb, ha valami elromlik az „agyában”. E félelmek pedig nem pusztán a Terminátor és a 2001: Űrodüsszeia emlékén alapszanak. A leghorrorisztikusabb forgatókönyvek szerint egy széles körű komputervírus-támadás akár az egész flottát saját fejlesztője ellen fordíthatja, a következmények pedig beláthatatlanok lennének. Emiatt a drone-okat működtető katonák is aggódnak az amerikai védelmi minisztérium idén júliusban publikált jelentése szerint. Nem bíznak a bármilyen kis autonómiával rendelkező gépekben. Nem biztosak benne, hogy pontosan az utasítások szerint fognak viselkedni. Mindez azért aggasztó számukra, mert napjainkban már a teljes amerikai repülőflotta harmadát adják a robotrepülők.
A folyamat ennek ellenére megállíthatatlannak látszik. Ma már ötven ország fejleszt katonai drone-okat, amelyeket egyre összetettebb feladatokra akar használni.

2012. szeptember 29.