Gyilkos robot, gyilkos MI | Jövőjegyzetek 2.

Merre tart a világ, mi minden várhat ránk évtizedek, évszázadok múlva? A Jövőjegyzetekben egy-egy témát, gondolatot, ötletet, elméletet járok körül, elsősorban az ember és a technológia viszonya szempontjából.

Egyre terjednek az "önvezető" autók, a hírekbe azonban jelenleg főként az általuk okozott balesetek révén kerülnek be.
Márciusban meghalt egy sofőr a Teslája vezetéssegítő funkciójának használata közben. Nemrég pedig egy hasonló technológiával felszerelt Uber taxi az éjszaka közepén teljes sebességgel, fékezés nélkül halálra gázolt egy biciklijét az úton keresztben áttoló gyalogost, miközben a sofőr a telefonját nyomkodta.

Hamarosan nemcsak az autóiparban, hanem az élet számos pontján fognak megjelenni a gépi intelligenciák, a robotok, amelyek különféle komplex műveleteket fognak végezni (pl. majd műtéteket hajtanak végre, veszélyes eszközöket kezelnek), és mindez számtalan olyan kérdést vet fel, amelyeknek megválaszolására jelenleg nem vagyunk felkészülve.

Ez a Jövőjegyzet arról a nagyon súlyos dilemmáról szól, hogy a nem ember által okozott halálesetekkor ki a felelős, és vajon hogyan dönti majd el egy mesterséges intelligencia, hogy ki legyen az áldozat.
Illusztráció: Syd Mead
Hol tart ma az "önvezető" technológia?
A felelősség minden bizonnyal az autóiparban válik majd elsőként egyre égetőbb kérdéssé. A közhiedelemmel ellentétben jelenleg sem a Teslákban, sem más hasonló, saját magát vezetni képes autóban nincs önvezető mód, csupán csak egy úgynevezett vezetéstámogató rendszer. A jelenlegi technológia ugyanis még nem alkalmas a teljes körű önvezetésre, és a sofőrnek az önvezető módban is figyelnie kell a közlekedést, hogy nem várt helyzetekben azonnal be tudjon avatkozni.
Márpedig a jelenlegi balesetek mindegyike ennek elmulasztása során történik.
A közvélemény egyelőre bizonytalan ezzel az újfajta világgal kapcsolatban, a média pedig jobban szeret riogatni, ezért az autógyártók nincsenek könnyű helyzetben, mert a pánikkeltés nem tesz jót a technológia fejlődésének, elterjedésének.

A közeljövőben játszódó filmekben gyakran látni az országutakon száguldó önvezető kamionokat (Lásd pl. Én, a robot, vagy a legutóbbi Wolverine film, a Logan). Van valami ijesztő abban, hogy nemsokára soktonnányi vastömbök fognak önvezető módban száguldani az utakon, és a változás hiába fog fokozatosan begyűrűzni, időt hagyva arra, hogy megszokjuk, sokan nem lesznek képesek megszokni. És minden egyes baleset növelni fogja a félelmet, mert azt érezzük, hogy az irányítás kikerül az emberi kézből.

Nézzük meg a fent említett két balesetet.
Elsőként itt van az Uber taxi gázolásáról készült rövid belső kameravideó - vigyázat, ahogy a videó elején is szerepel, a nyugalom megzavarására alkalmas felvétel.


Az Uber vezetéstámogató rendszere sokak szerint jelenleg csapnivaló. Az embersofőrök nagy része ezt a gázolást közepes reflexszel el tudta volna kerülni. Na, de, megint csak ott tartunk, hogy jelenleg nincs teljeskörű önvezető mód. A sofőr sms-ezik/chatel közben (ahogy sokan ezt mondjuk ma a normál autókban is megteszik vezetés közben), egyértelműen hibás, a gyalogos meg sötét ruhában, egy kivilágítatlan részen körülnézés nélkül felelőtlenül próbált átkelni.
Ettől azonban még a technológia messze nem áll készen arra, hogy ilyen esetekre jól reagáljon. Világszerte valószínűleg rengeteg gázolás történik, ahol a sofőr nem hibáztatható, de mivel egy "önvezető" autóval történt, így ez sokkal drámaibbnak tűnik.

A másik baleset márciusban történt, egy Tesla Model X az USA-ban, Kaliforniában önvezető módban nekihajtott az elválasztófalnak. Az autó kigyulladt, a sofőr meghalt.
Az alábbi videóban egy másik sofőr ugyanazon a szakaszon, ahol a baleset történt, tesztelte a vezetéstámogató funkciót, és le is kamerázta, mi történt.



Jól látszik, hogy az aszfaltfestés nagyon nincs rendben, elsőre én is azt hittem, hogy balra megy a sáv. Szerintem bárki elnézheti. A videóban a Tesla pedig követte a vélt vonalat, és ezzel ugyanúgy nekiment volna az elválasztónak, ha a sofőr nem avatkozik közbe. A vezetéstámogató rendszer erre a szituációra láthatóan nem tudott időben reagálni, pedig legalább 5-6 másodperc állt rendelkezésre.
Az eredeti balesetben sajnálatos módon elhunyt sofőr viszont tudott volna, ha figyel, ahogy ez kötelező előírás.

Eközben azonban a technológia rohamosan fejlődik. A Google önvezető autója, a Waymo forgalomban egészen kiváló eredményeket produkál, a Daimler nemrég elsőként kapott engedélyt, hogy Kínában, Pekingben, a kínai körülmények közt tesztelje az önvezető technológiát.

Lépjünk át a jövőbe...
Abban biztos vagyok, hogy az önvezető járművekkel teli közlekedés egy sokkal biztonságosabb és sokkal kevesebb balesettel rendelkező világhoz vezet. A valóban önvezető autók évente több millió emberéletet fognak megmenteni, ráadásul ez jelentős gazdasági haszonnal is jár: nem csak az emberi sofőröknél alacsonyabb költségek miatt, hanem pl. a csökkenő balesetszám jelentős kórházi költségmegtakarítást okoz, plusz rengeteg időt spórolnak meg az utazók, amelyet produktívabban tudnak felhasználni.
Én alig várom már, hogy a vezetéssel töltött időt hasznos elfoglaltságokkal töltsem, azonban egyelőre még messze vagyunk. Nem csak technológiai, hanem etikai értelemben is.

Ugyanis balesetek mindig lesznek.
Nem azért, mert a technológia idővel ne lenne szinte hibátlan, hanem azért, mert az utcákon ettől még emberek járnak, emberek szabálytalankodnak, rohannak át a tilos lámpánál, ráadásul az automata autóknak jó darabig logikátlan és néha abnormálisan közlekedő emberi sofőrök között kell helyt állniuk.
De ki a hibás, ha a szoftver esetleg téved, és balesetet okoz?
Elsőre ez nem kérdés. Egy gép, szoftver nem lehet hibás, mivel nem személy, nincs tudata, nincsenek jogai. Így egyértelműen a gyártó cégnek kell viselnie a felelősséget. Az autógyártók nyakába súlyos kártérítési perek szakadhatnak, de megfelelő használati utasítással, figyelmeztetésekkel valószínűleg a legtöbb pert ki tudják majd védeni. Ilyen esetből ma is rengeteg van, viszont a jövőben, az önállósodó eszközök ugrásszerű elterjedésével az ilyen balesetek száma meg fog sokszorozódni.
Mi fog történni? Semmi különös, mert ahogy a technológia tökéletesedik, és a mindennapok része lesz, ahogy sok más új technológiát, az önvezető autók millióit is megszokjuk, és elfogadjuk, főleg, ha látni fogjuk az előnyeit. Történnek majd balesetek, de a statisztikákból egyértelműen látszik, hogy még így is töredékére esik vissza a halálesetek száma. Ez az áldozatok családtagjait ugyan nem vigasztalja, őket a gyártók és a biztosító társaságok fogják kárpótolni (mármint jogilag, mert emberileg nem lehet).
Valójában ma sincs ez másképp. Itt van például Anton Yelchin, a fiatal amerikai színész 2016-os sokkoló esete, akit méregdrága kocsija egy korábban vásárlók által sokszor jelzett elektronikus váltóhiba miatt nekipréselt a háza kapujának, és halálra nyomott. A család beperelte az autógyártót, de aztán peren kívül megegyeztek. Így megy ez manapság.

A döntés felelőssége
Sokkal veszélyesebb ma felülni egy buszra, mint tizenöt év múlva lesz felülni egy önvezető buszra. Az önvezető autók már most sokkal-sokkal kisebb százalékban okoznak balesetet, és idővel egy olyan világban fogunk élni, ahol biztonságos önvezető autók járják az utakat, és biztonságosnak hitt gépek tevékenykednek körülöttünk. A technológia azonban nem lesz mindenható, sem tévedhetetlen, részben mert a szoftvertervezést még jó darabig emberek végzik.

Azobnan bármikor előfordulhat olyan veszélyhelyzet, amikor a szoftvernek döntenie kell. Itt egyvalamit fontos kiemelni: nem valódi döntésről van szó, a szoftver nem dönt, a programozása határozza meg, hogy egy adott szituációban mit csináljon. És nem mindig létezik helyes döntés, mert elképzelhető, hogy emberéletek között kell választania.

Mi történik, ha az önvezető autó elé ugrik egy kisgyerek? Hogyan kellene reagálnia a szoftvernek? Egyértelmű, nem? Mindenáron el kell kerülnie a gázolást.
Na, de kinek a szempontjából egyértelmű?
Az autó tulajdonosa például békésen olvas, amikor az MI döntési helyzetbe kerül, és a gyerek megmentése érdekében nekivezeti az autót a falnak. A tulajdonos meghal vagy súlyosan megsérül. Azért vásárolunk majd önvezető autót (de inkább bérlünk, mert a jövőben egyre kevésbé lesz értelme autót venni és az idő nagy részében kihasználatlanul tárolni), hogy biztonságosan A-ból B-be szállítson bennünket, és veszély esetén megóvja a testi épségünket.
Hogyan dönt az autó, ha két kisgyerek kerül elé, és a kalkuláció szerint csak az egyiket lehet a fizika határain belül elkerülni? Vagy, ha az autóban többen ülnek, például gyerek is utazik a szülővel.
Szinte végtelen számú döntési helyzetet lehetne felsorolni, amikor nincs jó végkimenetel. Az emberi sofőr ösztönösen dönt - valahogy. Embere válogatja, hogy hogyan. A szoftver viszont csak a beprogramozott szabályrendszert képes követni, és ezeket a szabályokat valakiknek meg kell alkotniuk.
Vajon kik fogják ezt magukra vállalni? Az autógyártók mérnökei? Az állami jogalkotók? Vagy valamiféle társadalmi konszenzus alakul ki? Kialakulhat-e egyáltalán bármi ilyesmi? Lesznek egyáltalán egyetemes szabályok, világszintű szabályozás vagy országonként változó elvek alakulnak ki?
Nagyon kíváncsi vagyok, hogy milyen elvek alapján teszik majd ezt.

Illusztráció: Syd Mead

A következő évtizedekben a jogrendszernek alkalmazkodnia kell a technológiák felelőssége kapcsán felmerülő helyzetek kezelésére, különben hatalmas káosz lesz. Jelenleg nem tudjuk egyértelműen értelmezni sem ezeket a szituációkat, és sem jogilag, sem morálisan nincsenek rá társadalmi minták. Sokan egyáltalán nem tudják, mit gondoljanak a témáról, mások egyenesen természetellenesnek tartják azt, hogy a gépi intelligenciákat emberi életekről való döntésekkel, prioritásokkal ruházzuk fel.

Muszáj lesz valami alapján dönteni, fontossági sorrendet felállítani.
Lehet például életkor alapján (a fiatalabb javára), nemek alapján (nő vs férfi), de idővel és kellő adatbázis és arcfelismerés esetén mérlegelni lehet akár az adott ember státuszát, szakképzettségét, van-e priusza, családja, biztosítása, mennyi adót fizet és van-e tartozása, egyáltalán, mennyire "értékes" a társadalom számára. Számtalan, kellemetlen szempont alapján alakulhat ki egy döntés, ha tegyük fel, két ember között kell választani.
Nem tudom,hogy ez a fajta logika valóban működhet-e a valóságban.
Elsőre azt mondanám, hogy semmiképp, mert ez az emberek rangsorolásához vezet.
Csakhogy eközben Kínában már fejlesztés alatt áll a szociális kreditrendszer, amely éppen ezt teszi: idővel majd monitorozza a polgárok napi tevékenységeit, közösségi oldalakon való részvételét, hogy mit néznek, mit vesznek, mit olvasnak, mit lájkolnak, és ez alapján különféle előjogokhoz jutnak, vagy éppen korlátozva lesznek bizonyos jogaik. A Big Data házasságra lép a Big Brotherrel. Közben a Google, a Facebook már most is döbbenetesen sokat tud rólunk, vagyis a szükséges adatok lassan rendelkezésre állnak.

Ha ez megtörténik, nagy valószínűséggel ezt is szép lassan el fogjuk fogadni. Eleinte biztosan lesznek felháborodások, lesznek, akik bojkottálják például az ilyen közlekedési eszközöket, de egy idő után szinte senkit nem fog érdekelni, amikor közben jelentősen csökken a balesetek száma.

Túl Asimov törvényein
Az önvezető autók csak a kezdet, hamarosan még komplexebb, korlátozott önállósággal rendelkező gépek, robotok állnak az emberiség szolgálatába, műtéteket fognak végrehajtani, idős embereket gondoznak, vagy akár bébiszitter-funkciót látnak el.
A robotok és döntések kapcsán minden sci-fi olvasóban azonnal felmerül Isaac Asimov három robottörvénye. Asimov megalkotta a robotika törvényeit, hogy aztán sok tucatnyi történetben mutasson rá a törvények buktatóira, kiskapukra, olyan logikai helyzetekre, amikor a törvények kudarcot vallanak.
A robotikával foglalkozó szakemberek szerint az asimovi törvények nem is alkalmazhatóak a jelenlegi és közelgő robotizáció során, mert a való világban sokkal-sokkal kompexebb és sokrétűbb lesz a robotok alkalmazása, mint például az Én, a robotban. Még úgy is, hogy sok idő fog eltelni addig, amíg egy robot egyáltalán valóban képes lenne önállóan megérteni, értelmezni bármilyen törvényeket, szabályokat.
A hadiipar valószínűleg élen fog járni a robotikában, katonai drónok ellenséges terepen már ma is képesek kiiktatni az ellenséget, és a jövőben egyre több, önálló döntések meghozatalára képes hadászati robot fog készülni. Márpedig ezeket a roboteszközöket emberek megölésére fogják programozni annak érdekében, hogy emberéleteket mentsenek meg.
Nesze neked robotika első törvény.

A Future Life of Institute nemrég egy kisfilmet tett közzé.
Ez egy disztópiába forduló fikció, amely úgy indul, mint egy technológiai előadás:arcfelismerő rendszerrel rendelkező önvezérlő drónok odarepülnek a célszemélyhez, és nekiütköznek, a rájuk helyezett robbanóanyag pedig lyukat üt az ember homlokába. A kisfilm ezt követően végigvezeti, hogy szélsőséges esetben hova is vezethet ez a technológia, és mennyire egyszerű emberek megölésére használni.

Az intézet arra akarta felhívni a figyelmet, hogy a szükséges technológia már ma is létezik, és nem kell semmilyen bonyolult mesterséges intelligencia hozzá.
El sem jutunk addig, hogy egyáltalán értelme lenne az asimovi törvényeknek, de már itt is van egy félelmetesen hatékony gyilkos robottípus milliónyi minidrón formájában.
Amelyet bárki használhat. Terroristák. Cégek. Kormányok. Magánszemélyek.

Az valószínű, hogy egy ideig még minden robot, minden szoftverintelligencia mögött emberi akarat, emberi döntés, emberi programozás áll.
Viszont szerintem ez sokkal aggasztóbb, mintha a gépi intelligenciák önállóan döntenének.

Hogyan döntsön az önvezető autó?
Végezetül egy érdekes "játékot" ajánlok az önvezető autók döntési szituációi kapcsán.
Az MIT (Massachussets Intitution of Technology) egyetemnek van egy honlapja, a Moral Machine, ahol egy 13 kérdésből álló elméleti döntési sort lehet kitölteni, hogy különböző szituációkban hogyan kellene döntenie a jövőben az önvezető autóknak (a szituációkban elég sok mindent meg tud az autó állapítani a gyalogosokról, utasokról).

Érdemes a tesztet többször is kitölteni, mert más és más szituációk jönnek elő. Én a tesztből nagyon hiányoltam egyes helyzetekben a véletlenszerű választási lehetőséget, mert sokszor egyszerűen nem korrekt a bármilyen elvek szerinti döntés, és talán több olyan szituációt vártam volna, amire semmilyen logika szerint nem lehet döntést hozni.
Viszont mivel muszáj volt, valahogy mindig döntöttem.
A teszt után össze lehet hasonlítani a mi prioritásainkat az átlaggal. Kifejezetten nyugtalanító szembesülni a saját válaszainkat elemző ministatisztikával, de még inkább az átlaggal. Mert láthatóan léteznek elvek, amelyek mentén lehet dönteni.
Az emberek fejében mindenképpen.

A személyiséggel, önálló döntések meghozatalára képes, "valódi" mesterséges intelligenciákig szándékosan nem akartam eljutni, mert az egy teljesen más téma, és hamarosan szó lesz róluk külön is.

Ehhez hasonló írásokat a folyamatosan gyarapodó Jövőjegyzetek címke alatt találsz.

A legközelebbi téma az olvasás és az irodalom jövője lesz.

A cikk szerzője:
MARKOVICS Botond
science fiction író, közgazdász, könyveit 2012 óta az Agave kiadó jelenteti meg.
Legutóbbi regényei: Xeno, Az időutazás napja, Az időutazás tegnapja

Ha másfajta "jegyzetekre" vágysz, itt egy három részes cikksorozat az idegen civilizációkról, részben a Xeno című science fiction regényemhez kötődve.

9 megjegyzés:

  1. Annyi megjegyzés, hogy az arcfelismerés egy elég bonyolult művelet, nem hiszem hogy belátható időn belül (vagy akár távolabbi jövőben) kocsi majd ez alapján fog dönteni kit üssön el. Ez szerintem korlátozza az orvgyilkos minidrónok hasznosságát is.

    VálaszTörlés
  2. TOM:
    Igen, ez még abszolút nem a közeljövő (kérdés, mit nevezünk egyáltalán annak), viszont látva a fejlődés ütemét, ez a technológiai szint is csak idő kérdése.

    VálaszTörlés
  3. Erősen túlspilázottnak érzem a moral machine problémakört.
    Olyan nem lehet, hogy egy szabályosan haladó gép direkt öngyilkos legyen egy szabálytalankodó részvevő javára. Ez arra tanítana, hogy nyugodtan hagyjuk a gyerekeket futkosni az utakon, a gépek inkább az utasaikat ölik meg, nem őket.
    Hasonló elv érvényesülhet, ha nem a saját vagy valaki más, hanem csak mások életéről kell dönteni. A szabályosan közlekedőt nem szabad direkt büntetni.

    VálaszTörlés
  4. Kaptás András: Szerintem a probléma lényege pont az, amikor ez nem egyértelmű.
    Egy autó és utasa vagy három gyerek? Vagy szabályosan közlekedő nő/férfi vagy gyerek? Nyilván ezek elméleti szituációk, de előfordulhat olyan eset, amikor ilyen esetben is döntést kell hozni. És pont ez a kérdés, hogy lehet-e dönteni, vagy egyértelmű, hogy az utast kell védenie? Alapvetően igen, na de mi van, ha az utast csak több másik ember halála árán tudja megvédeni? Ki fogja ezeket a helyzeteket eldönteni? És mi alapján?

    VálaszTörlés
  5. El lehet dönteni: nem szabad a szabálytalant védeni a szabályosan közlekedő kárára. A számok nem érdekesek egy konkrét szituációnál, mivel ez a szabályt magát a közlekedés általános biztonságát védi az általa megteremtett normákkal, ez pedig sokkal több életet ment meg ... Csak nem olyan látványosan.

    VálaszTörlés
  6. Amit egyezményesen szabályozni kell hogy meddig mehet el a gép az önvédelem terén, mert ez valódi konfliktust teremt. A vásárló valódi igénye, hogy a gépe őt védje, akár mások kárára is.
    Pl szembe jön egy elszabadult kamion, letérhetek e a járdára, ha ott gyalogosok vannak... Az elv hasonló, csak itt magunkat kell feláldozni érte. Szándékosan nem ölünk meg szabályosan közlekedő gyalogost, akkor se ha ezzel magunkat mentenénk, az ilyen programozott stratégiákat autoritásnak kell tiltania a valós vásárlói igényekkel szemben.

    VálaszTörlés
  7. Itt az olyan szituációk az érdekesek, amelyeknél nem egyértelmű a válasz. Pl. a moral machine linkben fékhiba van, nem tud megállni az autó. Előtted egy terhes anyuka kisgyerekkel, de az autó még kitérhet jobbra, ott meg mondjuk egy kisgyerek. Mindketten szabályosan közlekednek.
    Egyébként a fenti példádban az is kérdés, hogy ha a járdán egy gyalogos van, te pedig bent ülsz az autóban, akkor miért is az autóban ülő kárára kellene dönteni? Ugyanis ő szintén szabályosan közlekedik.

    VálaszTörlés
  8. Ha letér az útról, akkor már nem szabályos.
    Fékhibával közlekedni meg eleve veszélyeztetés, tehát az se szabályos, a moral machine ilyenkor meg kell álljon.
    Ha minden szabályt betart, és megis neki kell dönteni, milliárdból egy esetben, hogy két vétlen közül melyiknek megy neki, akkor a morálisan deffenzív stratégia az, ha nem hoz döntést, nem veszi figyelembe egyik lehetséges áldozatot se. Úgy manőverezik, mint ha ott se lennének. A dilemma helyzetet úgy oldja fel, ha az megoldhatatlan, hogy a dillemát okozó objektumok a döntés közben kioltják egymást. Így a programozó kikerüli az MI-t terhelő morális dilemmát.

    VálaszTörlés