Nick Bostrom: Szuperintelligencia - Utak, veszélyek, stratégiák

Ad Astra Kiadó, 2015

Dr Osman Péter ismertetése

Rendkívül gondolatgazdag és igencsak messzire tekintő mű.

Hatalmas intellektuális kutató- és felmérő útra visz Bostrom könyve, igen elmélyült elemzésekkel, és azokra támaszkodó következtetés- és prognózis-kísérletekkel. Különösképp merész munka: mint oly sok előde a filozófiában és az irodalomban, a küszöbünkön álló jövőbe próbál betekintést nyerni és betekintést adni, ám teszi ezt olyan korszakban, amikor minden korábbit messze meghaladó ütemben, exponenciális módon gyorsulva halad előre a fejlődés, nehezítve minden prognózisalkotást. Minőségileg új, és egyelőre beláthatatlan következményekkel jár ebben, ahogy a fejlődés két alapvető motorja eddig soha nem látott erővel, pozitív visszacsatolásban gyorsítja egymást. Ezek egyike a természettudományok legújabb eredményeit is felhasználó technológiai fejlesztés, amely minden korábbinál szélesebb hatókörű, felhasználási lehetőségű és hatékonyságú, gyakran eddig nem is álmodott eszközökkel látja el a társadalmat és az azt kiszolgáló gazdaságot, ezeket erőltetett ütemben fejleszti, s mindezekkel további, gyorsan növekvő és mind szélesebb körű igényeket is generál. A másik maguk ezek az igények, amelyek, önmagukat is folyamatosan bővítve, mind erőteljesebben hajtják előre a fejlesztést. (Mögöttük pedig ott állnak egy robbanásszerűen fejlődő termelési mód erőművei.)

Az Ad Astra korábbi remekéről, Ray Kurzweil A szingularitás küszöbén c. művéről írtuk (Iparjogvédelmi és Szerzői Jogi Szemle 2013/5. sz.), és ide ugyanúgy illik: Óriási ez a könyv, az emberiség fejlődésének távlatai iránt érdeklődőnek szédítően gazdag és érdekes! Szinte nehéz megmondani, mi lehet/ett/ a nagyobb munka és a nagyobb élvezet: az ebben a szakmája részeként is hivatásszerűen kutakodó szerzőnek összeszedni, rendezni és tovább gondolni, extrapolálni ezt a hatalmas, nagyívű és szerteágazó anyagot, vagy az olvasónak megismerni, megérteni mindezt, mérlegelni Bostrom következtetéseit és jóslatait, és kialakítani a magáéit.

Kuzweil trükkös, a függvénytanból vett fogalommal operált: a fejlődési folyamat szingularitásával, amelyen nem lehet túllátni, nem lehet prognózist tovább vezetni. Amint írta, „Ahogyan az űrben egy fekete lyuk drámaian megváltoztatja az eseményhorizontja felé gyorsuló anyag és energia mintázatát, a jövőnkben közelgő szingularitás is egyre jobban átalakítja az emberi élet minden intézményét és aspektusát, a szexualitástól kezdve a spiritualitásig. A szingularitás egy jövőbeli korszak, melyben a technológiai változás üteme olyan gyors lesz, a hatása pedig olyan mély, hogy az emberi élet visszafordíthatatlanul átalakul.” Bostrom viszont így beszél: „A könyv nem a technológia gyorsulásáról vagy az exponenciális fejlődés elméletéről szól, és nem is a "szingularitás" gyűjtőfogalma alá tartozó számos ötletről és gondolatról. Kezdésképpen összefoglaljuk a mesterséges intelligencia történetét, majd megvizsgáljuk a terület jelenlegi lehetőségeit. Végül vetünk egy pillantást a téma kutatóinak álláspontjára, és rámutatunk, hogy alig tudunk valamit a jövőbeli fejlesztések időtávlatairól.” Ha belegondolunk, az általunk kiemelt utolsó mondatrész alighanem ugyanazt jelenti.

A kiadó ajánlójából idézve „A kedves olvasó rendkívül ambiciózus és eredeti művet tart a kezében, amely kézen fogva vezeti végig egy hatalmas, és rendkívül kacskaringós szellemi ösvényen. Nem túlzás kijelenteni, hogy Nick Bostrom könyve korunk legnagyobb kihívását önti világos gondolati formába.” Ebben a kihívásban ott rejlik egy sajátos veszedelem is, amelyet Bostrom is részletesen vizsgál, s amelynek bizonyos előképe már évszázadok óta ott él a kultúránkban – pl. a Gólem-legendában, Johann Wolfgang Goethe A bűvészinas c. híres versében –: vajon tudja-e majd uralni az ember az általa életre hívott erőt, és mi lesz, ha elveszti az ellenőrzést felette? Ha belegondolunk, eléggé valósághűnek ígérkezik az alábbi következtetés:
Ha a fejlődés eljut odáig, hogy a mesterséges intelligencia (MI) sikeresen átmegy a Turing-teszten, akkor minden bizonnyal elmondható, hogy a ’gondolkodása’ gyakorlatilag azonos az emberével. Akkor viszont miért ne lennének hasonlóképp agresszív, hatalomra törő hajlamai, mint az embernek?

A szerzőről: a műszaki-tudományos ismeretterjesztésben is világhírű TED így mutatja be az egyik előadójaként: „A filozófus Nick Bostrom sokkal hamarabb idézett fel olyan jövőképet, amely tele van az ember képességeinek kiterjesztésével, nanotechnológiával és gépi intelligenciával, mint ahogy az ezekkel kapcsolatos aggodalmak a gondolkodás homlokterébe kerültek. 2005 óta vezeti az Oxford Egyetemen az Emberiség Jövője Intézetet, egy matematikusokból, filozófusokból és más tudósokból álló kutatócsoportot, amelynek rendeltetése, hogy vizsgálja az emberi lét jellemzőinek és fő tényezőinek összképét (human condition) és annak jövőjét. Korunk egyik legfontosabb gondolkodójaként tartják számon.”

A saját honlapján olvasható, hogy Bostrom az Oxford Egyetem Strategic Artificial Intelligence Research Center-ének igazgatója. A Wikipedia azt is elmondja, hogy 2009-ben és 2014-ben a Foreign Policy a világ 100 legfontosabb gondolkodója közé választotta, e könyve pedig a tudományos művek kategóriájában a New York Times bestseller listájára került.

E könyvében a szuperintelligencia fogalmát első közelítésben így vázolja: „Egyelőre a következőképpen határozzuk meg a szuperintelligenciát: olyan intellektus, amely szinte minden fontos területen jóval túltesz az ember képességein. A következő fejezetben több szó esik majd a szuperintelligencia fogalmáról. Ott átfogó elemzésnek vetjük majd alá, és számba vesszük a lehetséges formáit. Egyelőre azonban az általános jellemzés is megteszi. Megjegyzendő, hogy a fenti definíció nem utal arra, milyen formában valósul meg a szuperintelligencia. A szubjektív tapasztalatról szintén nem mond semmit: néhány kérdés szempontjából fontos lehet, hogy egy szuperintelligencia rendelkezik- e saját öntudattal (különösen a morális kérdések ügyében), de mi elsősorban a szuperintelligencia előzményeire és következményeire szeretnénk koncentrálni, nem pedig az elme metafizikájára.”

Könyvéről előszavában így szól:„Ebben a könyvben megpróbálom felmérni a kihívást, amelyet a szuperintelligencia lehetősége támaszt, és azt, hogyan tudnánk rá a legjobban reagálni. Ez valószínűleg a legfontosabb és legnagyobb kihívás, amellyel az emberiség valaha szembenézett. És – akár sikerrel járunk, akár elbukunk – valószínűleg a legutolsó kihívás is, amellyel valaha is számolnunk kell. (Ha belegondolunk, ez erősen apokaliptikus jóslat, jól beleillene egy mai Jelenések Könyvébe. Másrészt, ezzel az ember akár az evolúció egyik közbenső lépcsőjének is tűnhet, amellyel létrehozza a következő ’fajt’, az embert meghaladó mesterséges intelligenciát, amely átveszi tőle a helyet a csúcson. – OP)

Könyvünkben nem állítjuk, hogy a mesterséges intelligencia létrehozásának küszöbén állnánk, vagy akár csak közelítő pontossággal meg tudnánk becsülni, mikor jön létre. A jelek arra mutatnak, hogy talán még ebben a században, de még ezt sem tudhatjuk biztosan. Az első néhány fejezetben szemügyre vesszük a szuperintelligencia felé vezető különböző utakat, és ejtünk néhány szót az időzítésről is. A könyv nagy része azonban arról szól, mi történik akkor, amikor már létrejött. Megvizsgáljuk egy intelligenciarobbanás dinamikáját, a szuperintelligencia formáit és erősségeit, egy szuperintelligencia rendelkezésre álló lehetőségeit, amelyekkel döntő fölényt szerezhet. Ezután az irányítás problémáját vesszük górcső alá, és megnézzük, hogyan alakíthatnánk ki olyan kezdő feltételeket, amelyekkel túlélhetjük az átmenetet, és még profitálhatunk is belőle. A könyv végén azután távlati nézőpontot veszünk, és levonjuk a következtetéseket. Néhány megoldást is felvázolunk, hogyan tudnánk minél nagyobb eséllyel elkerülni egy létkatasztrófát. (Szép kilátások: kellő ügyességgel talán túl is élhetjük! Kiemelések tőlem – OP.) (…)

Ezt a könyvet egy másik szempontból sem volt könnyű megírni: megpróbáltam könnyen olvashatóvá tenni, de nem hiszem, hogy teljesen sikerült. Írás közben saját korábbi énemet vettem alapul közönségként, és megpróbáltam olyan könyvet írni, amelyet én is szerettem volna elolvasni. Ez talán túl szűk célcsoportot eredményez majd. Mindenesetre úgy gondolom, hogy a könyv tartalma sok ember számára megfejthető, ha rászánják az időt, hogy kicsit elgondolkodjanak rajta, valamint ha ellenállnak a kísértésnek, hogy rosszul értelmezzék az új gondolatokat, és a kulturális készletükben lévő legközelebbi klisével próbálják meg őket helyettesíteni. A technológiailag kevésbé képzett olvasókat pedig ne bátortalanítsa el az, ha időnként matematikai fejtegetéseket vagy szakszavakat látnak, mert a fő gondolatok mindig leszűrhetők az ezekhez kapcsolódó magyarázatokból. (Ez fordítva is igaz: akik kíváncsiak a kemény tudományos háttérre, további kincseket találhatnak a végjegyzetekben.)” (Tény, hogy roppant érdekes, ám nem éppen laza olvasmány, kell a komoly figyelem és a gondolkodás a megértéséhez és a gondolatmenetek követéséhez. Ez ebben a témakörben egyszerűen nem is lehet másként. – OP)

Caveat: „A könyv állításainak nagy része valószínűleg helytelen. Az is valószínű, hogy vannak általam számításba nem vett, ám kritikusan fontos tényezők, ami miatt néhány következtetésem érvényét veszti. Sok helyen jelzem a bizonytalansági faktort olyan szavakkal, mint a "lehetséges", "talán", "esetleg", "könnyen elképzelhető", "úgy tűnik", "valószínűleg", "nagyon valószínű", "majdnem biztos". Minden ilyen kifejezést szándékosan és nagy gonddal helyeztem el a szövegben. Időnként azonban ez az ismeretelméleti kérdésekben tanúsított visszafogottság sem elég; gyakran kifejezetten elismerem a témával kapcsolatos bizonytalanságomat, és nem próbálok tévedhetetlennek látszani.” (Ha figyelembe vesszük, milyen sötét árnyékok színezik a szuperintelligencia megjelenésével alakuló jövőt, talán az egyik legszebb kilátást adó remény, hogy az egészből nem lesz semmi, a gépek megmaradnak önállótlan, ehhez szükségesen korlátolt intelligenciájú, engedelmes segítőink. Még így is tudnak épp eleget bosszantani – amint azt bárki tanúsíthatja, midőn a számítógépe érthetetlenül megbokrosodik. – OP)

Szokás szerint, folytassuk pár karakteres idézettel. (A továbbiakban minden forrásmegjelölés nélküli idézet a könyvből van.)

„Az általános emberi intelligenciával rendelkező gépeket már az 1940- es évek, a számítógép kifejlesztése óta jövendölik; olyan gépek lennének ezek, melyek értelemmel, hatékony tanulási és tervezési képességekkel bírnak, és képesek komplex információfeldolgozási feladatokat megoldani a legváltozatosabb konkrét és elvont témákban. Abban az időben, a számítógépek beköszöntekor még általában úgy húsz évvel későbbre várták őket. Azóta a becsült dátum évente egyéves sebességgel tolódott ki; ma az általános mesterséges intelligenciával foglalkozó futurológusok szintén gyakran mondják, hogy az intelligens gépek két évtizeden belül megjelennek. Két évtized pont megfelelő a radikális változások jövendölőinek: elég közeli, hogy megragadja a figyelmet, és fontosnak hasson, de elég távoli, hogy áttörések olyan láncolatát vizionáljuk, amelyekről még csak halvány elképzeléseink lehetnek. (…) A húsz év ráadásul pont az az idő, amikor a mindenkori jövendölő nyugdíjba megy, így az esetleges hitelességvesztés sem fenyegeti merész véleménye miatt.” (Minő cinizmus – csak épp igaz! Kiemelés tőlem – OP)

„A gépi tanulás és kreatív problémamegoldás mögött így matematikailag jól meghatározott rendszer húzódik. Az ideálkép maga a tökéletes bayesi szereplő (a könyv természetesen megmagyarázza annak mibenlétét – OP), amely valószínűségszámítási tekintetben optimálisan használja fel a rendelkezésre álló információkat. Az ideál elérhetetlen, mert túlságosan számításigényes ahhoz, hogy bármely fizikai számítógépen megvalósítható legyen. Ennek megfelelően a mesterséges intelligenciát úgy is láthatjuk, mint az útrövidítések keresését: a bayesi ideál megközelítését úgy, hogy feláldozunk némi optimalitást és általánosságot, hogy nagyobb teljesítményt érjünk el a minket érdeklő területen.” (Igen, a követéshez olykor érteni kell a magasabb matematikát. – OP)

„Ha valaki olyan gépet tudna alkotni, amely egy emberi felnőtt szintjén érti a természetes nyelvet, akkor minden valószínűség szerint ez már egy olyan gép lenne, amely minden más, az emberi intelligencia által megvalósítható dologra is képes, vagy nagyon kis lépésre van tőle.” (S ha belegondolunk, mennyi rondaság megvalósítására képes az emberi intelligencia, egyrészt nehezen utasítjuk el a fekete utópiákat, másrészt felettébb nagy késztetést érzünk a már vázolt aggodalomra, s az indulatra, hogy kapcsolják ki a gépeket a fejlesztőlaborokban! – OP)

„Egyedi, egyszerű összetevők interakciója komplikált és nem várt hatásokkal járhat.Ha egy rendszerhez új elemet adunk, az rendszerszintű problémákat okozhat, amelyek addig nem derülnek ki, amíg nagy baj nem történik (néha még akkor sem).” (Bostrom ezt a tőzsdei automatikus kereskedőrendszerek és az általuk okozott 2010-es tőzsdei zuhanás, a „Flash Crash” elemzése kapcsán mondja, de általánosan igaz. Minden jó rendszerfejlesztő tudja is: az alkotóelemek spontán interakciói miatt minden bonyolultabb rendszer többet ’tud’, mint amennyit beleterveztek, és ugyanezen okból olykor másként is működik – ami a tervezőt és a felhasználót jócskán meg is lepheti. Márcsak ezért is biztosra vehető, hogy a leendő intelligens gépeink olyan tulajdonságokkal és szabadságfokokkal is rendelkeznek majd, amelyekről a tervezőik előre nem is /rém/álmodnak. Az pedig maga a földre szállt SciFi, hogy az említett tőzsdei zuhanásban a számítógépeknek „a program vaslogikáját” követő egymás közti kereskedelmét „a tőzsde automata, kereskedést biztosító megszakító algoritmusa állította le”, megelőzve így a még nagyobb pénzügyi katasztrófát. – OP)

„Tudjuk, hogy a vak evolúció képes emberi szintű általános intelligencia létrehozására, mivel már legalább egyszer megtette. (A legnagyobb tévedése? –OP) Az előrelátással segített evolúció – azaz egy intelligens emberi programozó által segített genetikai programok – minden bizonnyal jóval hatékonyabban érhetnek el hasonló eredményt.” (Ha hasonlót, úgy talán jobb eltekinteni tőle! – OP)

„Amellett is szólnak érvek, hogy az MI-hez szükséges dolgok mind ott vannak az idegrendszerek struktúrájában, amelyek kevesebb mint egymilliárd éve jöttek létre.”

„A teljes agy emulációjához nem kell rájönnünk, hogyan működik az emberi értelem, vagy hogyan programozzunk le egy mesterséges intelligenciát. Csak arra van szükségünk, hogy megértsük az agy alapvető számítási elemeinek alacsony szintű funkcionális tulajdonságait. A teljes agy emulációjához nem szükséges semmilyen alapvető fogalmi vagy elméleti áttörés.” (Emuláció = Egy adott működési környezetet más körülmények között utánzó technológia, például az informatikában. Akadémiai Kiadó, Pszichológiai lexikon – OP)

„Az új normák szerint a felvilágosult, felelősségteljes pároknak előnyben kell részesíteniük a kiválasztást a természetes fogantatással szemben. Akik kezdetben vonakodtak, később szintén a szelekció mellett dönthetnek, hogy gyermekük ne kerüljön hátrányba a barátaik és kollégáik tehetségesebb gyermekeivel szemben. Néhány országban még ösztönzőket is bevezethetnek, hogy polgáraikat a genetikai szelekció előnyeinek kihasználására bátorítsák.” („Új normák”: „Az őssejtből származtatott ivarsejtekkel az egy pár számára rendelkezésre álló kiválasztási lehetőség nagyban megnövekszik.” A kiválasztás eszköze a genetikai szűrés. – OP)

„Lehetetlen volna egyszerű idegi térképet felállítani két agy neuronjairól, hogy a gondolatok csak úgy átcsússzanak egyikből a másikba.”

„A szinapszisok több mint milliószor annyi hőt vonnak el, mint amennyi termodinamikailag szükséges lenne”

„Az emulációknál az is kérdés, mennyi ideig tud egy emberszerű tudat dolgozni valamin, mielőtt megőrül, vagy önmagát kezdi ismételni.”

„A "kollektív intelligencia" nem a hardver alacsony szintű párhuzamosítását jelenti, hanem az intelligens autonóm szereplők, mint az emberek párhuzamosítását.”

„Elképzelhető, hogy amint elérjük az emberi szintű gépi intelligenciát, az erős szuperintelligencia már nagyon gyorsan ki fog fejlődni.” (Ezek szerint ez lehet a point of no return, azaz szabad fordításban Térdre, imához! – OP)

„Az emberi tartományon belüli különbségek eltörpülhetnek egy ember és egy szuperintelligencia közti szakadékhoz képest. A 3. fejezetben végignéztük egy gépi intelligencia lehetséges előnyeit az emberivel szemben. Az előnyök nagyságrendje akkora, hogy egy szuperintelligens MI valószínűleg nem annyival lesz okosabb, mint egy zseni egy átlagembernél; sokkal inkább annyival, amennyivel egy átlagember intelligensebb egy katicabogárnál vagy gilisztánál.”

„A kihívás, amivel szembe kell néznünk, hogy megtartsuk emberi mivoltunkat: hogy higgadtan, józan ésszel és bölcs humorral álljunk a problémák elé, még ha azok természetellenesek és embertelenek is. Minden emberi találékonyságunkra szükségünk lesz a megoldás során.”

E két legutóbbi biztatással a tarsolyunkban vágjunk neki egy kissé alaposabban is megismerni Bostrom mondandójának legalább egy részét.

Múltbeli fejlődés és jelenlegi képességek (1. fejezet címe)

Bostrom felvázolja a mai technológiai-gazdasági-társadalmi szcenárió kialakulásának ívét: intellektuális képességeiknek köszönhetően „az emberek időről időre egyre hatékonyabb technológiával álltak elő, ami lehetővé tette őseinknek, hogy elhagyják az őserdőt és a szavannát. A népsűrűség és a lélekszám különösen a mezőgazdaság kialakulása után ugrott meg. A több ember több ötletet termelt, a nagyobb népsűrűség miatt pedig ezek az ötletek gyorsabban terjedhettek, és néhányan már azt is megtehették, hogy csak egy-egy szakterületre koncentráljanak. A fejlődés megnövelte a gazdasági termelékenységet és a technológiai kapacitást. A későbbi, az ipari forradalommal kapcsolatos fejlesztések aztán egy második, hasonló jelentőségű ugrást eredményeztek a növekedés mértékében.” Most pedig ott tartunk, hogy „Ha a világgazdaság olyan ütemben bővül, ahogy az elmúlt ötven évben, a világ 2050-re kb. 4,8-szer lesz gazdagabb a mainál, 2100-ra pedig nagyjából 34-szer.” Nem veti fel, ám mindenre kiható kritikus jelentőségű kérdés ebben, vajon valóban gazdagabb lesz-e a világ, ha anyagi javakra konvertálja az erőforrásait. Gazdagabb-e, ha nagyobb mértékben valósítja meg a javak öncélú termelését? Ez alighanem legalább is kétséges, azt pedig már most is jól látjuk, milyen ésszerűtlen pazarlásra vezet, ha – az értékesítések növelése céljával – mesterségesen jelentős mértékben gerjesztik a fogyasztást generáló igényeket és gyorsítják a termékek erkölcsi avulását, cseréjét. Rémisztő belegondolni, mi lesz, ha majd az emberinél sokkal erősebb szuperintelligenciák végzik az ilyesfajta marketingmunkát, s a mainál is sokkal hatékonyabban működtetik az agymosást. Témánk vonatkozásában pedig ez a növekedési prognózis felidéz egy további, felettébb fontos kérdést. Rövidre fogva: egyértelműen kibontakozó tendencia, hogy az értéktermelés mind nagyobb hányadát a gépi eszközök veszik át, kiszorítva az élőmunkát. Így viszont mi adja majd a gyorsan növekvő gazdasághoz a – legalább is a mai viszonyok szerint – szükséges fizetőképes keresletet?

Quo vadis, Domine? „A következő fejezetben megvizsgáljuk azokat az utakat, amelyek emberi szintű gépi intelligencia kifejlesztéséhez vezethetnek. Azonban szögezzük le már az elején, hogy bármennyi állomás is szükséges az emberi szintű gépi intelligencia megalkotásához, nem ez utunk végcélja. A következő megálló, amely ehhez képest már nincs is olyan messze, az emberinél magasabb szintű gépi intelligencia kifejlesztése. A vonat pedig nem áll meg, még csak nem is lassít annál az állomásnál, ahol az ember álldogál. A legvalószínűbb, hogy egyszerűen átrobog rajta.” Szerfelett figyelemre méltó jóslat! „Egyszerűen átrobog” – ez érdemben azt jelenti, hogy az ember már nem lesz képes ellenőrzése alatt tartani a fejlődés menetét, ütemét, hanem az egyszerűen túllép rajta, értelemszerűen megfosztva őt addigi státusától és irányítási lehetőségeitől.

„Az első tudós, aki felvázolta ezt a forgatókönyvet, a matematikus I. J. Good lehetett, aki vezető statisztikusként szolgált Alan Turing kódfejtő csapatában a II. világháborúban. Egy 1965-ös, gyakran idézett bekezdésben így ír: Az ultraintelligens gépet definiáljuk olyan gépként, amely messze képes túlszárnyalni akár a világ legokosabb emberének szellemi képességeit is. Mivel a gépek tervezése szellemi tevékenység, egy ultraintelligens gép még jobb gépeket tervezhetne, és kétségtelenül létrejönne az „intelligenciarobbanás”. Az emberi intelligenciát messze túlhaladnánk. Így az első ultraintelligens gép az utolsó találmány lenne, amit az embernek valaha is meg kell alkotnia, feltéve, hogy a gép elég szelíd, hogy megmondja nekünk, hogyan tartsuk kordában.” Ez a „feltéve, hogy…” különösen bíztató kilátást körvonalaz. Kiemelés tőlem.

„Van szemük a látásra, de nem látnak; van fülük a hallásra, de nem hallanak” (Ez. 12.2) „Nyilvánvalónak tűnik, hogy egy ilyen intelligenciarobbanás közvetlenül veszélyeztetné a létünket, és ezért a legkomolyabban kell megvizsgálnunk a kockázatot, még akkor is, ha tudnánk (nem tudjuk), hogy van valamekkora esély a fenti forgatókönyv bekövetkezésére. A mesterséges intelligencia úttörői azonban, bár hisznek az emberi szintű MI létrejöttében, jobbára nem foglalkoznak az embernél magasabb szintű MI-vel. Mintha közben képzelőerejük annyira kimerülne, hogy nem látnák azt a logikus következő lépést, hogy a gépek szuperintelligenssé válhatnak.

Az MI úttörői nagyrészt nem foglalkoztak azzal a lehetőséggel, hogy munkájuk kockázatot is hordozhat magában. Még csak említés szintjén sem beszéltek a mesterséges értelem vagy adott esetben egy minden embernél hatalmasabb elme megalkotásának biztonsági és etikai vonatkozásairól: ez a hiányosság még akkor is meglepő, ha ismerjük a kor nem túl acélos kritikai viszonyulását a technológia veszélyeihez. Csak remélhetjük, hogy mire ez valós lehetőséggé válik, nemcsak a technológiai tudást fogjuk megszerezni egy intelligenciarobbanás elindításához, hanem úgy fogunk belevágni, hogy túl is éljük.” Kiemelések tőlem – OP. És van ennek egy igen sajátos oldala. Tudjuk, látjuk, világszerte mennyire a közgondolkodás homlokterébe állított harci kérdés a nukleáris energiatermelés ügye, az abban rejlő valós vagy netán eltúlzott veszélyek felmutatása. Aligha kétséges, hogy ezt igen gyakran sokkal inkább a politikai mozgósítás eszközeként kezelik, és/vagy mögötte gyakran gazdasági ágazatokhoz kötődő üzleti érdekek munkálnak. Ehhez képest a közgondolkodásban meg sem jelenik az itt vázolt veszélyek felvetése – vajon miért? Ezzel természetesen nem arra utalunk, hogy bármely csekély mértékben is a bizánci képrombolásra emlékeztető indulatokat kellene kelteni az MI-k ellen, vagy akár Frank Herbert méltán nagyhírű regényfolyamából átvenni a „Ne készíts gépet az emberi elme hasonlatosságára.” elvét.

A fejezet a továbbiakban áttekintést ad a gépi intelligencia eddig fejlődéséről. Felidézi a mesterséges intelligencia mint kutatási terület hajnalaként számon tartott 1956-os Dartmouth Nyári Projektet, és „E vakmerő felvetés óta eltelt hatvan évben a mesterséges intelligencia területe sok mindenen keresztülment a túlhajtott érdeklődéstől és nagy várakozásoktól kezdve a visszaesésig és a kiábrándulásig.” Természetesen ezt részletesen ki is fejti. Az 1990-es évekre „Az újonnan népszerűvé vált technikák, a neurális hálózatok és genetikai algoritmusok azt az ígéretet hordozták, hogy megoldanak a GOFAI- megközelítéssel („a hagyományos logikai alapokra épülő megközelítés, amely a magas szintű szimbólumkezelésre koncentrált, és amely az 1980-as években, a szakértői rendszerekben érte el tetőfokát”– OP) kapcsolatos néhány alapvető problémát. (...) Az új technikák sokkal organikusabb teljesítményt nyújtottak. A neurális hálózatokat az "elegáns teljesítménycsökkenés" jellemezte: a hálózat apróbb hibája általában csak kismértékben rontotta a teljesítményt, és nem vezetett teljes összeomláshoz. Ami még fontosabb: a neurális hálózatok tanulni tudtak a tapasztalatokból, természetes módokat találtak arra, hogy általánosítsanak a példákból, és rejtett statisztikai mintázatokat találjanak bemeneti adatokban. Emiatt ezek a hálózatok különösen hatékonynak bizonyultak mintafelismerési és csoportosítási problémák megoldásában.” „Egy másik irányvonal is szerepet játszott: az evolúción alapuló módszerek, köztük a genetikai algoritmusok és a genetikai programozás technikái. Az evolúciós módszerek talán kisebb tudományos hatást értek el, mint a neurális hálózatok, de széles körű népszerűségre tettek szert. Az evolúciós modellek megoldási lehetőségek populációjával dolgoznak (ezek lehetnek struktúrák vagy programok), és a létező lehetőségek változóinak mutációjával vagy rekombinációjával véletlenszerűen új és új megoldási lehetőségek jönnek létre. A populációt időről időre egy választási kritérium szerint ritkítják (rátermettségi, avagy fitneszfüggvény), amely csak a jobb lehetőségeket hagyja túlélni a következő generációnak. Ezernyi generáció ismétlődése után a megoldások átlagos minősége fokról fokra növekszik. Egy működő algoritmus problémák széles skálájára tud hatékony megoldást, meglepően új és egyszerű módszerekkel, amelyek gyakran tűnnek inkább természetes struktúráknak, mint emberi alkotásnak. Ráadásul a folyamat elvileg különösebb emberi beavatkozás nélkül is működhet, leszámítva a rátermettségi függvény kezdeti meghatározását, ami gyakran igen egyszerű.”

A fejezetben vázolt fejlődés mai szintje: „A mesterséges intelligencia számos területen már most is túltesz az emberi intelligencián. Az 1. táblázatban összefoglaltuk a játékokat játszó programok jelenlegi fejlettségét, amiből kitűnik, hogy az MI-k már most is számos játékban megverik az emberi bajnokokat.”

Megvalósítható, csak még nem találtak rá? A legismertebb eredmény a sakkozó MI. Ugyanakkor: „Az MI gyakorlatilag már mindent képes elvégezni, amihez ’gondolkodásra’ van szükség, de sikertelennek bizonyul olyan dolgokban, amelyet az állatok és az emberek ’gondolkodás nélkül’ tesznek; ez valamiért sokkal nehezebbnek tűnik. (…)  Különösen nagy kihívást jelent egy programnak a képek értelmezése, a tárgyak felismerése vagy egy robot irányítása egy természetes környezettel történő interakció során. (…)  A józan ész és a nyelvtudás szintén nehéz feladatnak bizonyult. (…) A sakkmesteri szintet azonban egy meglepően egyszerű algoritmus segítségével érték el. Épp ezért nagy a kísértés, hogy azt gondoljuk: más képességek – mint az általános gondolkodás, vagy egy a programozóknak fontos képesség – szintén elérhetők egy meglepően egyszerű algoritmussal. Hogy egy bizonyos esetben a legjobb eredményt egy komplikált mechanizmus éri el, még nem azt jelenti, hogy egyszerű mechanizmusok ne lennének képesek ugyanarra, vagy akár még jobb teljesítményre is. Elképzelhető, hogy csak arról van szó, hogy még senki nem talált egyszerűbb alternatívát.” Kiemelés tőlem – OP.

A szuperintelligenciához vezető utak –a felmérés következő, logikus tárgya, s a 2. fejezet címe. „A gépek általános intelligenciában jelenleg messze elmaradnak az embertől. Egy napon (feltevésünk szerint) mégis szuperintelligensek lesznek. Hogyan jutunk el addig? Ebben a fejezetben több elképzelhető technológiai forgatókönyvet vázolunk fel. Megvizsgáljuk a mesterséges intelligenciát, a teljes emberi agy emulációját, a biológiai érzékelést, az ember-gép interfészeket, a hálózatokat és a szervezeteket. Kiértékeljük az egyes utak valószínűségét, és azt, hogy egyáltalán elvezethetnek-e a szuperintelligenciához. Több út is lehetséges, ez pedig növeli annak valószínűségét, hogy legalább az egyiken elérhető a cél. (Ne feledjük: Bostrom maga figyelmeztet, hogy a jövőt illető következtetései és prognózisai szükségképpen sokszor többé-kevésbé spekulatívak. – OP) Meg tudjuk vizsgálni az ehhez szükséges rendszer néhány általános tulajdonságát. Egyértelműnek tűnik, hogy a tanulás képessége a szükséges rendszer szerves része kell legyen. Ugyanakkor hatékonyan kell tudni bánnia a bizonytalansággal és a valószínűségi információkkal. Ezenkívül képesnek kell lennie arra, hogy az érzékszervi adatokból és a belső állapotokból hasznos fogalmakat definiáljon, és ezekből kombinatorikai reprezentációkat alkosson logikai és intuitív következtetéseihez.”

Tanulógép, „gyermekgép”, „rekurzív önfejlesztés”  „A korai, Régimódi Mesterséges Intelligenciának (a már említett GOFAI– OP) nevezett rendszerek legtöbbször nem voltak képesek a tanulásra, a bizonytalanság kezelésére vagy fogalmak alkotására, talán azért, mert ezek gépi feldolgozása akkor még nagyon fejletlen volt. Ez azonban nem azt jelenti, hogy az alapgondolat túlságosan új lenne. Az ötlet, hogy egy egyszerű kiinduló programmal gépi tanulás útján érjük el a mesterséges intelligenciát, legalább Alan Turing 1950-ben kidolgozott "gyermekgépéig" vezethető vissza. Ahelyett, hogy a felnőttagyat próbálnánk programmal szimulálni, miért nem inkább egy gyermeki agyat leképező programot alkotunk? Ha ezt aztán megfelelő képzésben részesítenénk, végül elérnénk a felnőttagy értelmi képességeit.” „Turing gondolata, hogy olyan programot fejlesszünk ki, amely saját tartalma nagy részét tanulásból nyeri, nem pedig előzetes programozásból, mind az idegtudományi, mind a mesterséges megközelítés szempontjából érdekes lehet.

Turing gyermekgépének létezik egy változata is, az "MI-mag" gondolata. A Turing által elképzelt gyermekgép relatíve fix architektúrával rendelkezne, amely a tartalom felhasználásával fejlesztené belső képességeit. Az MI-mag ezzel szemben kifinomultabb mesterséges intelligencia lenne, amely képes fejleszteni saját architektúráját is. Az MI-mag kezdeti életszakaszában a próbálkozással, információszerzéssel vagy a programozók segítségével fejlődne. A későbbi szakaszokban azonban elég jól meg kellene értenie saját működését ahhoz, hogy új algoritmusokat és számítási struktúrákat fejlesszen ki az értelmi képessége megnöveléséhez. Ez a megértési szint eredhet abból, hogy az MI-mag általános intelligenciára tesz szert az élet számos területén, vagy átlép egy küszöbértéket egy különösen fontos területen, mint a számítástechnika vagy a matematika.

Ezzel eljutottunk egy újabb fontos fogalomig, a "rekurzív önfejlesztésig". A sikeres MI-mag képes lenne iteratívan fejleszteni önmagát: az MI korai verziója meg tudná tervezni saját maga fejlettebb változatát, ez utóbbi pedig – mivel okosabb lenne, mint az első – még okosabb változatot tudna tervezni, és így tovább. Bizonyos körülmények között a rekurzív önfejlesztés elég sokáig folytatódhat egy intelligenciarobbanás bekövetkezéséhez – amikor egy rendszer intelligenciaszintje nagyon rövid idő alatt a szerény képességektől (a legtöbb területen akár emberinél gyengébb tulajdonságoktól, kivéve a programozás és az MI-kutatás területét) a radikális szuperintelligenciáig fejlődik. Erre a lehetséges eseményre visszatérünk a 4. fejezetben, ahol részletesebben is elemezzük annak dinamikáját. Megfigyelhetjük, hogy ez a modell meglepetéseket is tartogat számunkra: az általános mesterséges intelligencia kifejlesztése egészen addig teljes kudarcba fulladhat, amíg az utolsó kritikus komponens a helyére nem kerül, amikortól az MI-mag már képes lehet a rekurzív önfejlesztésre.”

Nem szükségképp humanoid!  „Egy utolsó hangsúlyozandó pont: a mesterséges intelligenciának nem kell hasonlítania az emberi elmére. Az MI-k akár nagyon idegenek is lehetnek, sőt valószínű, hogy azok lesznek. Azt kell feltételeznünk, hogy a biológiai intelligenciáktól nagyon eltérő kognitív felépítésük lesz, és a fejlődésük korai szakaszában nagyon különböző erősségekkel és gyengékkel rendelkeznek majd (bár, ahogy később még látni fogjuk, végül úrrá lehetnek a gyengeségeiken). Ráadásul az MI-k céljai is teljesen eltérhetnek az emberi céloktól. Nincs okunk feltételezni, hogy egy generikus MI-t a szeretet, gyűlölet, büszkeség vagy az egyéb emberi érzelmek fogják motiválni: ezeket a komplex érzelmeket az intelligencián felüli, igen költséges munka lenne újraalkotni az MI-kben. Ez egyszerre nagy probléma és nagy lehetőség is. Az MI-k motivációinak kérdésére a további fejezetekben még visszatérünk, de a téma olyannyira nagy jelentőséggel bír, hogy végig érdemes lesz észben tartani.” Kiemelés tőlem. A kiemelt részben egy különösen izgalmas kérdés rejtőzik. Vajon van-e jó alapunk feltételezni, hogy az említett érzelmek, vagy épp bármilyen érzelmek nem jelennek meg előbb-utóbb spontán módon is az MI-kben? A válaszhoz minden bizonnyal sokat ad, ha végig követjük, hogyan jelentek meg ezek az emberben, mennyit adott ehhez a törzsfejlődés, majd a társadalmi fejlődés. Ha premisszaként vesszük, hogy ezeket az érzelmeket nem a testtől független lélek generálja, akkor azokat csak az agyunkból származtathatjuk, végső soron az abban tárolt értékrendből. Hogyan történt a minőségi változás pl. abban, hogy az utódait sok állatfaj is akár önfeláldozóan védi, ám mások iránti szeretetre csak az ember képes, vagy épp a párzási rítus során sok faj ’páváskodik’, de büszkeségre csak az ember képes – és főként ilyen változás, kiteljesedés miért ne jelenhetne meg spontán módon az MI-kben is, különösen, ha azok eljutnak a fejlődésben odáig, hogy egymással való kommunikációjukból, együttműködésükből kialakul valamiféle ’társadalmuk’? Amit viszont valóban nem tudhatunk: A premisszánk szerint kétségtelen, hogy az állatokét meghaladó érzelmeinket a gondolkodásunknak, s annak a társadalomban tárolt, onnan eltanult értékrendnek köszönhetjük. Vajon milyen, elképzeléseinket akár messze meghaladó érzelmei is lesznek a szuperintelligenciáknak és azok közösségének? – OP.

2. A szuperintelligenciához vezető utak – ennek az első harmadában járunk. Benne még, egyebek közt:

„A teljes agy emulációja „A teljes agy emulációjánál (azaz „feltöltésénél”) az intelligens programokat egy biológiai agy beszkennelésével és a struktúrájának pontos modellezésével alkotnák meg. Ez kimeríti a természettől vett inspiráció fogalmát: szégyentelen plagizálás lenne. A teljes agy emulációjához a következő lépésekre lenne szükség….”

Biológiai gondolkodás” „A genetikai manipuláció a gyógyszerészetnél jobb eszközöket adhat a kezünkbe. Gondoljunk ismét a genetikai kiválasztásra: ahelyett, hogy eugenikai programba kezdenénk a házasságok mintázatának kontrollálásával, már az ivarsejtek és az embriók szintjén elkezdhetnénk a folyamatot. (…) A kiválasztott vagy épp semlegesített genetikai jellegek száma a következő egy-két évtizedben ugrásszerűen meg fog nőni. (…) Minden olyan jelleg, amely elhanyagolhatónál nagyobb örökölhetőséggel rendelkezik – ide értve a kognitív képességeket is –, kiválaszthatóvá fog válni. Az embriókiválasztás nem igényel mélyreható ismereteket azokról a bonyolult belső és külső hatásokról, amelyekkel a gének létrehozzák a fenotípusokat: pusztán adatokra (igaz, abból rengetegre) van szükségünk a vizsgált jellegek genetikai okairól.” Elöljáróban már érintettük az őssejtből származtatott ivarsejtek felhasználását szelektálásra. „A géntechnológia további fejlődésével lehetővé válna egy bizonyos specifikáció szerinti génkészlet létrehozása, amelyhez nem lenne szükség nagyszámú embrióra. (…) Egy lehetséges fejlesztés, amely a humán genom szintetizálásával lehetővé válna, az embrió genetikai "helyesírás-ellenőrzése" (…) A lehetséges biotechnológiai módszerek szintén fontos szerephez juthatnak. Az emberi reproduktív klónozás, amint megvalósul, felhasználható lesz kivételesen tehetséges emberek genetikai állományának klónozására.” Igen, ezek a belénk rögzült normarendszer szerint félelmetes és kockázatos utak, hiszen nemcsak élni, de korlátlanul visszaélni is lehet a benne rejlő eszközökkel. Ám megalkothatjuk hozzá Murphy törvényének idevágó hasonmását: Ami megvalósítható, és elegendő hasznot kínál, azt tűzön-vízen, törvényen át is megvalósítják. – OP.

Agy-számítógép interfészek A SciFi-k kedvelt eszköze. Ám „Időnként felmerül az ötlet, hogy a közvetlen agy-számítógép interfészek, különösen az implantátumok használatával az ember megkaphatná a számítógépek speciális képességeit – a tökéletes memóriát, a pontos számítást és a szélessávú adattovábbítást –, amivel az így létrejött hibrid rendszer a módosítatlan agy teljesítményének többszörösét érhetné el. Azonban bár az emberi agy és a számítógép közti közvetlen kapcsolat lehetőségét már demonstrálták, valószínűtlennek tűnik, hogy ilyen az interfészeket a közeljövőben széles körben fogják használni a képességfejlesztésre.”

Hálózatok és szervezetek  „A szuperintelligencia elérésének egy másik elképzelhető módja az emberi elméket egymással és más eszközökkel összekötő hálózatok és szervezetek fokozatos fejlesztése. Ebben az esetben nem az egyének szellemi kapacitását növelnénk meg, hogy szuperintelligensek legyenek, hanem az egyéneket szerveznénk egyfajta hálózatba, amivel elérhetővé válna a szuperintelligencia egy kollektív formája. Erre a következő fejezetben "kollektív szuperintelligenciaként" fogunk hivatkozni.” Még szép, hogy eláll ettől az ember lélegzete, s legfeljebb egy félig-meddig cinikus megjegyzésre futja: vajon milyen lesz ennek a kollektív tudattalanja? – OP.

Mint minden ilyen alkalomkor, eljött a válás ideje: eddig kísértük az olvasót Bostrom kalandos felfedező útjának megismerésében. Remélhetőleg ebből már el tudja dönteni, játszótársa lesz-e a szerzőnek e merész és nagyszabású kísérletben. A recenzens itt leválik, mint egy hordozórakéta, és engedi, hogy az eddigiek intellektuális lendülete vigye tovább az érdeklődést.

Így tehát már csak néhány szó a továbbiakról. az út további szakaszai a fejezetek címekben:

3. A szuperintelligencia formái

4. Egy intelligenciarobbanás dinamikája

5. Döntő stratégiai fölény

6. Szellemi szuperképességek

7. A szuperintelligencia akarata

8. A legvalószínűbb kimenetel a végítélet?

9. Az irányítás problémája

10. Orákulumok, dzsinnek, uralkodók, szerszámok

11. Többszereplős forgatókönyvek

12. Egy értékrend kialakítása

13. A döntésekről szóló döntések

14. A stratégiai kép

15. Nő a nyomás