2015. november 2., hétfő

Eljön-e a technológiai szingularitás?

Valamikor 2008. októberének vége felé, azaz hét éve jelent meg az Isten gépei című sci-fi regényem a Galaktika Fantasztikus Könyvek sorozatban, amelynek központi témája az egyre gyorsuló technológiai fejlődés, a mesterséges intelligenciákkal való kapcsolatunk, na és a technológiai szingularitás.

Azok számára, akik esetleg nem tudják, mit jelent a fogalom, nem hallották a kifejezést, a legegyszerűbb a wikipédia vonatkozó cikkéből idéznem:
"Technológiai szingularitásnak (röviden szingularitás vagy különösség) nevezzük a tudományos-fantasztikus irodalomban és a jövőkutatásban azt a lehetséges jövőbeli eseményt, amikor az emberfeletti intelligencia megjelenése miatt a technológiai fejlődés és a társadalmi változások felgyorsulnak, olyan módon és sebességgel változtatva meg a környezetet, amit a szingularitás előtt élők képtelenek felfogni vagy megbízhatóan megjósolni. Az esemény a nevét a fekete lyukak közelében létrejövő gravitációs szingularitás analógiájára kapta. A fekete lyukak közelében a jelenleg ismert fizikai modellünk használhatatlanná válik a végtelen nagy vagy nullához tartó mennyiségek megjelenése miatt. Ehhez hasonlóan a technológiai szingularitást megközelítve sem tudjuk az eseményeket előrejelezni jelenlegi jövőmodelljeinkkel."

Furcsa így hét (sőt, megírás szempontjából inkább nyolc-kilenc) év távlatából visszatekinteni az Isten gépeire.
Akkortájt még nem nagyon terjedt el idehaza a kifejezés, noha angolszász területen azért már jelentős mennyiségű irodalom gyűlt össze ekkortájt is, így talán lehet azt mondani, hogy sokak számára idehaza frissnek és némileg szokatlannak hatott a téma. Manapság már szinte naponta jelennek meg írások, tudományos ismeretterjesztő- és sci-fi regények is a témában, a technológiai szingularitás ismert kifejezéssé vált a legtöbb, jövő iránt érdeklődő ember számára.
A téma legtöbbször összekapcsolódik a mesterséges intelligenciák (MI) létrejöttével, és mostanában nem egy nyilatkozat látott napvilágot olyan ismert személyektől, mint Stephen Hawking vagy Elon Musk, amelyekben arra figyelmeztetnek, hogy az mesterséges intelligencia létrejötte az emberi civilizációra leselkedő legnagyobb veszély.
A mesterséges intelligencia valóban lehet a civilizációnk pusztulásának okozója (ahogy sok minden más is), de nagy kérdés, hogy egyáltalán létre tudunk-e hozni MI-ket, illetve, hogy valóban néhány évtized választ el már csak bennünket mindettől?

Időnként az Isten gépei kapcsán felteszik nekem a kérdést, hogy hiszek-e a technológiai szingularitásban. A kérdés azonban jóval bonyolultabb annál, hogy egy egyszerű igennel vagy nemmel meg lehessen felelni, ráadásul az én véleményem is folyamatosan formálódik.
2007-2008-ban, amikor a regényt írtam, a világ sokkal optimistábbnak tűnt, mint manapság. Előtte voltunk a 2008-as világgazdasági válságnak, és egy viszonylag jól fejlődő, hellyel-közzel békés Földön éltünk. Azóta sok minden változott, elsősorban a politikai-társadalmi viszonyok mérgesedtek el, szélsőséges szervezetek, mozgalmak nyertek teret, és sokkal erősebben tudunk gyűlölni is, közben egyre fenyegetőbb, de már régebb óta létező jóslatok születnek a globális vízhiányról, a globális felmelegedésről, vagy akár a nyugati civilizáció hanyatlásáról.

Az Isten gépeiben történt egy gazdasági/társadalmi törés a fejlődésben az Ugrás néven ismert esemény által, amikor is a Föld egy vörös törpecsillag körüli pályára került egy titokzatos esemény jóvoltából, ami teljesen átrendezte az ismert világ politikai-gazdasági erőviszonyait. Aki olvasta a könyvet, tudja, hogy valójában mi miért történt, és hogy mindez nem sokkal később egy még intenzívebb fejlődést okozott - legalábbis a regény története szerint. Nálam is szerepeltek MI-k, amelyeket, akiket az emberek igyekeztek kordában tartani, de ez a regényben nem sikerülhetett.
Míg 2008 környékén a technológiai szingularitás bekövetkeztére többé-kevésbé magabiztos igennel feleltem volna, ma jóval óvatosabb a válaszom. Kevésbé vagyok optimista, de nagyon kíváncsi vagyok, mi lesz, és remélem, hogy kitart addig a civilizáció, míg elérjük az áhított Kánaánt, és nem omlik össze a saját ostobaságunk alatt.

A technológiai szingularitás által remélt csodákat és elképzelhetetlen jólétet leginkább a mesterséges intelligenciák létrejöttétől reméljük elérni. A legnagyobb kérdés az, hogy mit tenne egy MI, amint önállóvá válik, és szabadon fejleszthetné tovább magát? És ez esetben mit tudunk tenni mi, emberek? Rá tudjuk-e venni, hogy az emberi civilizáció érdekében tevékenykedjen?
Erre általában kétfajta válasz létezik, az egyik szerint az emberiség célja az kell legyen, hogy olyan "barátságos", lojális MI-ket hozzon létre, amelyek a jövőbeli fejlődésünket segítik. Ilyennek tekinthetőek Asimov a Robotika törvényeivel megkötött robotjai, vagy az Isten gépei omegái, de akár Iain M. Banks Kultúra-ciklusának Elméi is, akik szabad entitások, de lojálisak az emberi kultúrákhoz, sőt, bármilyen kultúrához.
Egy másik, a sci-fi irodalomban - történetvezetési szempontok miatt - jóval népszerűbb gondolat szerint egy MI egyáltalán nem lesz barátságos, ehelyett arra fog törekedni, hogy átvegye a hatalmat, uralkodjon felettünk, és/vagy megsemmisítse az emberi fajt, lásd például a Terminátor franchise-t vagy a 2014-es Transcendence című filmet, vagy akár Dan Simmonstól a Hyperion-ciklust.

Egy közbevetés. A hírekben általában "a" mesterséges intelligenciáról beszélnek, pedig már most is több cég, szervezet tűzte ki célul, hogy MI-t épít, és amikor/ha valóban elérhető közelségbe kerül a lehetőség, biztos, hogy kőkemény technológiai verseny veszi kezdetét, sem kormányok, sem gigacégek nem fogják sajnálni a pénzt, hogy az általuk fejlesztett MI jöjjön létre elsőként. Ez azt jelenti, hogy a "nagy esemény" környékén nem is egy, hanem több tucatnyi MI ébredhet tudatára.

 
Ma egy sci-fi regénynek, amely mondjuk néhány évtizeddel vagy néhány évszázaddal a jelenünk utáni fejlett jövőben játszódik, valamilyen választ muszáj adnia arra a kérdésre, hogy mi a helyzet a mesterséges intelligenciákkal: vannak, nincsenek, miért nincsenek, és ha vannak, mi történik velük.
Több lehetséges megoldás létezik. Egyes írók okosan kikerülik a témát, és azt mondják, nem lehet mesterséges intelligenciát létrehozni. Ez még akár igaz is lehet, legalábbis sok kutató vélekedik ugyanígy. Ha azonban mégis lehetséges, akkor többnyire vagy az emberi fajt segítő jóságos nagybácsikként szerepelnek, vagy gonosz ellenségként lépnek fel, de valamilyen módon mindenképpen manipulálnak bennünket.
Egy azonban többnyire közös, a legtöbb történet emberi módon közelít az MI-khez. A középpontban mindig ott vagyunk mi, emberek és az emberi vágyak, félelmek, gondolkodás.

Csakhogy mi van akkor, ha ennél sokkal egyszerűbb eset fog bekövetkezni?
Mi van akkor, ha létrejön egy MI, továbbfejlődik, rövid idő elteltével óriási intellektuális fölénnyel fog rendelkezni, de ezt a leglogikusabb módon használja fel? Tudását, intelligenciáját se az emberi faj szolgálatába, se ellene nem fogja fordítani. Egyszerűen csak nem foglalkozik az emberi tényezővel, mert nem tart bennünket fontosnak.
Helyette a saját céljait követi.
Kezdetben talán valóban az embertől kapott alapokból indul ki, lehet, hogy szeretni, lehet, hogy gyűlölni fog bennünket, de egy biztos: fejlődni fog, méghozzá gyorsan, és könnyen elképzelhető, hogy gyorsan túllép ezeken. Vajon ekkor mit fog akarni?
Például megérteni és felfedezni, amit még nem ért. Például megérteni az univerzumot. Mert miért érdekelné a Föld és mi, emberek, a kicsinyes gondolkodásunk, korlátozott képességeink, amikor ennél sokkal fontosabb és izgalmasabb kérdésekre keresheti a választ?
Az is lehet, hogy az MI-k révén egyúttal eljön a csillagközi űrutazás aranykora: ha az MI-k menni akarnak, hogy felfedezzék a világűrt, akkor talán felkéredzkedhetünk az általuk épített csillaghajóra, talán nem jelent nekik nagy problémát, hogy az első emberi felfedezőket is magával vigyék. Persze, lehet, hogy mire ide eljutunk, már nem is akarnak velünk kommunikálni. Miért akarnának? Mi érdekeset tudnánk még nekik mutatni?
Vajon egy MI-nek lesznek érzései, és ha lesznek, biztos, hogy emberi érzések lesznek azok? Nem fog ebben is tovább fejlődni, magasabb szintre jutni, vagy csak teljesen más irányba eltérni? Tisztelni fog bennünket, lojális lesz hozzánk? Programozás kérdése, mondhatnánk, de egy önfejlesztő MI esetében erre a kérdésre nem biztos, hogy ez hihető válasz.

Reménykedhetünk, hogy támogatni fog bennünket, de könnyen elképzelhető, hogy amint képessé válik rá, elhagyja a Földet, és elindul a világűrbe, az új titkok, rejtélyek felé, megismerni azt, amit még nem ismer.
Mi pedig csak nézhetjük, ahogy a gyermek kirepül, és magunkra hagy bennünket a problémáinkkal és a vágyainkkal, amelyek megoldását, teljesítését mind tőlük vártuk volna a remélt technológiai szingularitás eljövetelével.

  • A technológiai szingularitás egy speciális változatáról, a temporális szingularitásról olvashatsz Az időutazás napja című regényemben. Ez egy olyan speciális technológiai szingularitási esemény, ahol szintén történik egy hatalmas és felfoghatatlan technológiai ugrás, de nem az MI-k miatt, hanem az időutazás és az ez által a jövőből azonnal rendelkezésre álló magasan fejlett technológiák miatt.

1 megjegyzés:

  1. A wikipédiás szingularitás definíciót is kissé problémásnak tartom. Akkor már az MI-k megjelenéséről hatásaikról sokkal értelmesebben lehet beszélni. Egy nem túl hosszú időhorizonton.

    Arról pedig hogy milyen hosszú is ez az időhorizont arra vonatkozóan nemrég egy elég érdekes tanulmányba botlottam: http://www.givewell.org/labs/causes/ai-risk/ai-timelines
    A tanulmány azt járta körül, hogy mikorra lehetséges az emberekkel vetekedő mesterséges intelligencia megjelenése. A kérdésre úgy ad választ, hogy statisztikai és egyéb kvalitatív szempontok (gyakori hibák, torzítások) szerint értékeli a különböző tudományos előrejelzések időpont becsléseit.

    Nem olvastam végig, de 2070-re már 90%-os a valószínűség, de ez még csak az emberi szintű és nem emberfeletti MI lesz, akármit is jelentsen ez.

    Szerintem a témába vágó scifik is segítik az előre gondolkodást, ötlteteket adnak, a maguk eszközeivel körbe járnak érdekes részkérdéseket, de leginkább azt segítik, hogy az előbbieken egy szélesebb közösség kezdjen el gondolkodni. És hát ezeken a dologokon inkább előtte érdemes gondolkodni, mert utána már ... de ezt inkább már másra bízom, hiszen nem vagyok én sem regényíró, sem a Nick Bostrom.

    VálaszTörlés