Max Tegmark: Élet 3.0 - Embernek lenni a mesterséges intelligencia korában

HVG Könyvek, 2018

Dr Osman Péter ismertetése - Iparjogvédelmi és Szerzői Jogi Szemle, 2018/5. sz.

„»A hidrogén […], ha elég időt adunk neki, emberré alakul.« (Edward Robert Harrison)” (Forrásmegadás nélküli idézetek a könyvből – OP) A könyv pedig azt kutatja, tovább lép-e, s ha igen, miként, a fejlődés.

„»A technológia segítségével az élet soha nem látott módon virágzásnak indulhat – de el is pusztíthatja önmagát.« (Future of Life Institute)”

„»Ha mihamarabb nem változtatunk irányt, oda lyukadunk ki, ahová tartunk«. (Irwin Corey)” (Magyarul találóan vészjósló ez a kifejezés, hiszen kilyukadunk, elsüllyedünk. Kiemelések mindenütt tőlem – OP)

De hová is tartunk? Nagy kérdése ez a könyvnek, amelyre választ nyilván valóan nem adhat, de segít a tájékozódásban az egyik kulcsfontosságú területen. Mesterséges intelligencia (a továbbiakban MI). A modern korban két fő tényező hajtja a fejlesztést: a profit és a fegyverkezés (fegyverkezés a konkurencia ellen, katonai fegyverkezés, fegyverkezés a hatalom megtartásáért). Még a Steve Jobs osztályú látnok-építkezők is csak azért kapják meg a teremtő munkájukhoz az eszközöket, mert azzal a céget teszik erősebbé, és részvényesi értéket is termelnek. Ez igaz az MI fejlesztésére is, amely teljesen ismeretlen vizekre viheti az emberiséget. „Vajon a jövőben az MI legfőbb felhasználása civil vagy hadászati célú lesz? Tudnunk kell, hogy hamarosan több pénzt költünk majd az utóbbira – különösen, ha megindul a hadászati célú MI-fegyverkezési verseny. A civil jellegű MI-befektetések értéke 2016-ban meghaladta az egymilliárd dollárt, mindez azonban eltörpül a Pentagon 2017-es büdzséigénye mellett, amely a mesterséges intelligenciával kapcsolatos projektek esetén 12–15 milliárd dollár közé esik.”

Sorsdöntő jelentőségű kérdést boncolgat Tegmark azt vizsgálva, hogyan osztozhatnak majd az emberek és a MI a munkahelyeken. Ezt még senki sem tudja, s mind többen rettegnek tőle – nem alaptalanul. [L. Martin Ford: Robotok kora - Milyen lesz a világ munkahelyek nélkül? [HVG Könyvek, 2017 – Iparjogvédelmi és Szerzői Jogi Szemle 2017/ 3. sz.] „Az ipari forradalom idején kezdtük felfedezni, hogyan helyettesíthetjük az izmainkat gépekkel, az ember pedig átállt a jobban fizetett munkákra, ahol inkább az eszét kell használnia. A kétkezi munkát felváltotta a szellemi munka. Most azt fedezzük fel, hogyan helyettesíthetjük az eszünket. Ha végül sikerül, vajon milyen munkák maradnak számunkra? Optimista elgondolás, hogy a fizikai és szellemi munkák után a következő robbanás a kreatív munkák terén következik be, de a pesszimisták erre azzal válaszolnak, hogy a kreativitás is szellemi folyamat, vagyis a mesterséges intelligencia idővel ezt is elsajátítja.” Sőt, amint az eddigiek mutatják, s ezekre a könyv részletesen kitér, az MI a kreativitásban is minden bizonnyal képes lesz túlszárnyalni az embert.

Talán még ennél is nagyobb súlyú, vajon akar-e majd a fejlett MI önállóságot, függetlenséget az embertől, s ha igen, abból mi lesz az emberre nézve. Érdemes elgondolkodnunk, miért akar maga az ember ilyet magának, hogyan jutott odáig, hogy megszülessék benne erre az igény. S ha feltesszük, hogy az önállóan tanuló, magát szellemileg fejlesztő MI az egyik fontos forrásaként feldolgozza a történelmet és a nyugati irodalmat – márpedig ezt minden bizonnyal megteszi –, úgy minden bizonnyal arra jut majd, hogy a szabadság, függetlenség, önállóság a legfőbb jók közé tartoznak, tehát neki is mindenképp kellenek.

A HVG Ajánlója idézi Stephen Hawking kommentárját e könyvhöz: „Mindnyájunknak – nem csak a tudósoknak, iparági szakembereknek és hadvezéreknek – meg kell vizsgálnunk, hogy mit tehetünk már most annak érdekében, hogy a jövőben nagyobb eséllyel profitálhassunk az MI-ből, és elkerülhessük a buktatókat. Ez korunk legfontosabb párbeszéde, és Tegmark gondolatébresztő könyve lehetővé teszi, hogy ebben mi is részt vegyünk.”

Egy másik hozzáértő vélemény róla az Ajánlóból: „A mesterséges intelligencia által felszabadított, eddig soha nem tapasztalt erőnek köszönhetően az emberiség talán történelmének legjobb évtizede előtt áll – vagy épp a legrosszabb előtt. Még soha nem olvastam ilyen alapos és egyben szórakoztató könyvet az MI hatásairól, mint amilyet Max Tegmark írt. Aki még nem ismeri Tegmark lebilincselő gondolatait, az most igazi ínyencfalatra talál.” (Erik Brynjolfsson, a MIT Digitális Gazdaság Kezdeményezésének igazgatója)

„eddig soha nem tapasztalt erő” – a könyv legfontosabb témája, hogy fogalmunk sincs, mire lesz képes a jövőben ez az erő. Kínálja magát a párhuzam az atomenergiával, amelyről a kutatások korai korszakában szintúgy nem lehetett tudni, mit hozhat majd a gyakorlatban. Van ugyanakkor egy kritikus következmények eshetőségét felidéző különbség. Az atomenergiáról tudható volt, hogy felhasználásával az ember, ha eléggé ostoba vagy vak, elpusztíthatja magát és talán többé-kevésbé a földi világot is, ám az nem történhet meg, hogy az atomenergia önállósítja magát, s az ember fölé kerekedik. Az MI-ben ez utóbbiak lehetősége nagyon is benne lehet. A Hawking idézet szövegkörnyezetét nem ismerjük, de nem kétséges, hogy az említett „buktatókban” ennek elkerülése, megelőzése is benne van, s minden bizonnyal még fontosabb, mint a „profitálás”.

Jámbor óhaj? Ismét egy vélemény az Ajánlóból: „»Tegmark új könyve mélyen elgondolkodtató útmutató korunk legfontosabb párbeszédéhez, megpróbál választ adni arra a kérdésre, hogyan hozhatunk létre jó indulatú civilizációt a jövőben, miközben a biológiailag adott gondolkodásunkat a saját magunk alkotta még nagyobb intelligenciával ötvözzük.« - Ray Kurzweil, feltaláló, szerző és jövőkutató, A szingularitás küszöbén c. könyv szerzője [l. Iparjogvédelmi és Szerzői Jogi Szemle, 2013/5. sz.]”  Nem kevéssé borongóssá teszi ebben a kilátásokat, ha végig gondoljuk, mikor tudott az ember az eddigiekben „jó indulatú civilizációt” létrehozni, jóllehet már most is a létével, a fennmaradásával játszik. S még az Ajánlónál maradva: „Vajon a jövő technológiája teljesebbé teszi az életünket? Képesek leszünk kordában tartani a mesterséges intelligenciának köszönhető hatalmat? A jövőben békésen élnek majd az emberek a robotokkal, kiborgokkal és hibridekkel?” Hogyan, ha még önmagukkal sem tudnak?

A szerzők összegzése a könyvről: „A kollektív jövőnkről szóló vita nem korlátozódhat csupán az MI-kutatókra. Éppen ezért született meg az Élet 3.0 is: abban a reményben, hogy az olvasók is csatlakoznak a párbeszédhez. Milyen jövőt szeretnénk? Fejlesszünk halálos automata fegyvereket? Mi történjen a munka automatizálásával? Milyen pályaválasztási tanácsot adhatunk a mai gyerekeknek? Azt szeretnénk, ha új feladatok váltanák fel a régieket, vagy munkahelyeket nem ismerő társadalmat képzelünk el, ahol mindenki élvezi a kényelmes életet és a gépeknek köszönhető gazdagságot? Még messzebbre tekintve: létrehozzuk az Élet 3.0-t, és elterjesszük a kozmoszban? Mi fogjuk irányítani a gépeket, vagy azok minket? Átveszik-e a helyünket az intelligens gépek? Egymás mellett létezünk majd, vagy összeolvadnak velünk? Mit jelent majd embernek lenni a mesterséges intelligencia korában? Mit jelentsen mindez, és hogyan alakítsuk ebben a szellemben a jövőt?”

Nagyon is kapcsolódik ezekhez egy merészen eretnek – vagy eretneken merész – gondolat: vajon mi biztosítja az embert, hogy ő a teremtés koronája? Nem tudjuk, mi indította a fejlődést, hogyan jöttek rá pajkos óriásmolekulák, hogy szeretnének olyan csodákká fejlődni, mint a dinoszauruszok, vagy a homo sapiens sapiens, s egyáltalán, mi indította az anyagot az óriásmolekulákká szerveződésre. Így azt sem tudhatjuk, vajon ugyanaz a valami, ami eddig hajtotta, nem hajtja-e magasabb szintekre is a fejlődést. Ha azt vesszük, hogy : „A tyúk csak a tojás vállalkozása arra, hogy még több tojást hozzon létre.” (Mérő László: A pénz evolúciója – L. Iparjogvédelmi és Szerzői Jogi Szemle 2008/6. sz.), még találóbban: „A tyúk nem más, mint a tojás lehetősége egy még életképesebb tojás létrehozására.” (Siddhartha Mukherjee: A gén, Park Könyvkiadó, 2017.), akkor mi zárja ki logikailag, hogy az ember nem pusztán a fejlődés eszköze az evolúció következő lépcsője, a még tökéletesebb lény, a MI létrehozására? Akár a „vak mestere tépi, cibálja” eredménye a fejlődés, akár valamiféle tudatos erő műve, a haladása az eddigiek alapján elvitathatatlan. Így logikailag mintha az is beleférne – Stanisław Lem zseniális felvetésével összhangban [Lymphater utolsó képlete – azonos című kötet, Kotzmosz Könyvek, 1966], hogy az MI talán az élet vállalkozása, hogy létrehozza azt a magasabb rendű, szervetlen intelligenciát, amelyre az maga nem volt képes. Végül is, innen idézve, „Az agy kvarkokból és elektronokból áll, amelyek úgy rendeződnek el, hogy egy erős számítógépet alkossanak, és nincs olyan fizikai törvény, amely megakadályozná, hogy még intelligensebb kvarktömböket hozzunk létre.”

Jöjjön pár karakteres mondat.

„Az intelligenciának nincsen vitathatatlanul ’helyes’ definíciója. A meglévő meghatározások pedig, amelyekben a logika, megértés, tervezés, érzelmi tudás, öntudat, kreativitás, problémamegoldás és tanulás képessége egyaránt felbukkan, jellemzően rivalizálnak egymással.” (Magyarán, úgy használjuk e fogalmat, hogy nem tudjuk megmondani, pontosan mit jelent. Tegmark ezt részletesen tárgyalja, és a könyvhöz ad róla ’munkadefiníciót. – OP)

„Az emberfeletti ÁMI (általános mesterséges intelligencia – OP) miatt aggódók többsége úgy hiszi, minimum évtizedekre van tőlünk. Azt azonban hangsúlyozzák, hogy mindaddig, amíg nem vagyunk száz százalékig biztosak abban, hogy nem következhet be évszázadunk során, jobban tesszük, ha minél előbb elkezdjük a biztonságtechnikai kutatást, hogy minden eshetőségre felkészüljünk.” (Sőt – az itt elmondottakból teljesen világos, hogy valószínűleg csak az ÁMI eljövetele előtt tehető bármi óvintézkedés az ember primátusának megőrzésére, már ha egyáltalán ez lehetséges marad. Az ÁMI, ha követi a fejlődés eddigi logikáját, azt már aligha engedi majd – l. erre Irving J. Good lentebb idézett kijelentését is. – OP)

Az MI tudata: „Ha elüt egy vezető nélküli autó, nincs jelentősége, van-e szubjektív tudata. Az emberre csupán az hat, amit a szuperintelligens MI tesz, a szubjektív érzései nem számítanak.” (Ám vajon az esetleges érzései nem befolyásolhatják-e majd a cselekedeteit? – OP)

„Ugyanazt a számítást bármely univerzális számítógépen végre lehet hajtani, ez pedig azt jelenti, hogy a számítás ugyanúgy közegfüggetlen, mint az információ: saját életre kelhet, fizikai közegétől függetlenül!” (A legsötétebb kilátás: az interneten, vagy hasonló óriáshálózaton eloszló elemekből összeálló MI – OP)

„Az intelligencia lehetővé teszi az irányítást: az ember nem azért idomíthat tigriseket, mert erősebb náluk, hanem mert okosabb. Ez azt jelenti, hogy ha feladjuk a bolygó legokosabb lényeként kivívott pozíciónkat, előfordulhat, hogy lemondunk az irányításról.”

„Az eltérő intelligenciák rendszertani osztályozásakor hasonlóan kulcsfontosságú a szűk és a széles intelligencia közti különbségtétel. (...) Az emberi intelligencia – mindeddig legalábbis – egyedülállóan széles körű, és döbbenetesen változatos készségek elsajátítását teszi lehetővé.” (Egyedülálló? Félő, hogy ez már csak technológiai kérdés. – OP)

„Vitathatatlan, hogy a tanulás képessége az általános intelligencia legelképesztőbb aspektusa.” (A „Mi a tanulás?” gondolatmenet indítása. Némileg kockázatos állítás, hiszen a tanulás képességét az intelligenciának tudja be, vagyis ezek szerint aki/ami tanulni tud, az intelligens. Ez a „tanulás” nagyon egyértelmű definiálásáért kiált. A témát részletesen taglalja is az alfejezet. – OP)

„Habár bizonyíthatóan egy tetszőleges méretű neurális hálózattal elméletben bármi kiszámolható, arról nem szól a bizonyíték, hogy mindez a gyakorlatban is megvalósítható-e észszerű méretű hálózattal.” (Vigyázat, mélyvíz! – OP)

„Magát a társadalmat is tekinthetjük olyan rendszernek, amely emlékezik, számításokat végez és tanul, mindezt pedig egyre gyorsuló tempóban, ahogy az egyik találmány lehetővé teszi a következőt: az írást, a nyomtatást, a modern tudományokat, a számítógépeket, az internetet és így tovább. Vajon a jövő történészei mit írnak majd fel következőként a képességteremtő találmányok listájára? Valószínűleg a mesterséges intelligenciát.”

„Mennyi idő kell ahhoz, hogy a gépek minden kognitív feladatban legyőzzenek minket? Egyértelmű, hogy nem tudjuk, azonban fontolóra kell vennünk annak eshetőségét is, hogy mindez bekövetkezik, talán már a mi életünkben.”

„Míg a hagyományos ipari robotok drágák és nehezen programozhatóak, a jelenlegi trend az, hogy olyan olcsóbb, MI-vezérelt robotokat hoznak létre, amelyek képesek a programozási tapasztalattal nem rendelkező dolgozóktól megtanulni a feladatukat.” (Szép új világ! A robot eltanulja a dolgozótól, s az utóbbi már mehet is zabot hegyezni. – OP)

Justitia 3.0 „A robotbírák elméletileg biztosíthatják – a történelem folyamán először –, hogy a törvény előtt minden ember valóban egyenlő legyen. Arra programozhatók, hogy mindenkit egyformán kezeljenek, és átláthatóan alkalmazzák a törvényt, mégpedig valóban pártatlanul. a robotbírák könnyen másolhatóak, hiszen jobbára csak szoftverből állnak, így a folyamatban lévő ügyeket párhuzamosan is fel lehet dolgozni, vagyis minden ügy saját robotbírát kaphat, ameddig csak szükséges. Végül pedig: míg az emberi bírák számára képtelenség minden lehetséges ügyük kapcsán az összes releváns szakmai tudást elsajátítani, a szövevényes szabadalmi vitáktól kezdve a gyilkossági rejtélyekig, amelyek a legújabb igazságügyi szakértői vívmányokon állnak vagy buknak, a jövő robotbírái gyakorlatilag korlátlan memóriával és tanulási kapacitással rendelkezhetnek.” (Nem is rossz kilátás! A tanulási kapacitás nagy ígéret, s remélhetőleg a robotbírákat nem befolyásolhatják személyes ambíciók, és nem figyelik félszemmel a közvéleményt sem. – OP)

Erről szól a könyv:
 /Rém?/mesével indul: MI-fejlesztők („az omegák”) létrehozták az általános mesterséges intelligenciát (a Prométheuszt), amely a továbbiakban önjáró módon bővítette képességeit, exponenciális ütemben. „Stratégiájuk megválasztásakor Irving J. Good 1965-ös intelligenciarobbanás-elméletéből indultak ki: Definiáljuk az ultraintelligens gépet olyan gépként, amely messze túl tudja szárnyalni a legokosabb ember intellektuális tevékenységeinek mindegyikét. Mivel a gépek megtervezése is ilyen intellektuális tevékenység, egy ultraintelligens gép még jobb gépeket tervezhet; ekkor pedig megkérdőjelezhetetlenül bekövetkezne az ’intelligenciarobbanás’, és az emberi intelligencia messze lemaradna. Éppen ezért az első ultraintelligens gép az utolsó találmány, amelyet az embernek meg kell alkotnia, feltéve, hogy a gép elég engedelmes, hogy megmondja, hogyan tarthatjuk uralmunk alatt. Úgy gondolták, ha beindul a rekurzív önfejlesztés, a gép rövidesen olyan okos lesz, hogy minden egyéb, számára hasznos emberi képességet is megtanít majd magának.” („Rekurzív önfejlesztés”: alighanem a jövő valós ígérete / fenyegetése [ami megvalósulhat, és elég erős érdekek kötődnek ehhez, az létre is jön!] – OP)

A Prométheusz megmaradt fejlesztői szolgálatában, akik reá támaszkodva, gazdasági eszközökkel teljesen átformálták és uralmuk alá vonták a világot. „Az omegák tehát végrehajtották a világtörténelem legdrámaibb rendszerváltását. Bolygónkat először igazgatta egyetlen hatalom, amelyet mérhetetlen intelligencia támogatott, és amely akár évmilliárdokig is virágoztathatná az emberiséget a Földön és a kozmoszban.”

„A könyv további része egy másik mese – amelyet még senki sem írt meg: jövőnk a mesterséges intelligenciával. Milyennek szeretnénk látni? Kialakulhat-e olyasmi, ami akár távolról is hasonlít az Omega történetére, és ha igen, valóban ezt szeretnénk? Félretéve a spekulációkat az emberfeletti MI-ről: hogyan kellene kezdődnie a történetünknek? Hogyan hasson az MI a munka világára, a törvényekre vagy a fegyverekre az elkövetkező évtizedben? Még távolabbra tekintve: hogyan írnánk meg a befejezést? Ez a mese valóban kozmikus méreteket ölt, mivel nem kevesebbről szól, mint az élet sorsáról univerzumunkban. És ezt a történetet nekünk kell megírnunk.” Erről szólnak, ennek lehetőségeit, kockázatait, ésszerű megfontolásait keresik, fejtegetik a további fejezetek.

Alapozó töprengések:

„Ha univerzumunk sosem ébredt volna öntudatára, teljesen értelmetlen maradt volna – egy hatalmas kiterjedésű tér lenne csupán. Ha pedig tartósan visszasüllyedne álmába valamely kozmikus csapás vagy önmaga előidézte szerencsétlenség folytán, szánalom, de ismét értelmetlenné válna.” (De mit jelent az „értelmetlen” és mitől „értelmes” az értelmes? Mit mond majd az ultraintelligens gép az előtte volt világról? – OP)

„Ahogy [az ősrobbanást követően] a világegyetem tágult és hűlt, úgy lett egyre érdekesebb, mivel a részecskéi még összetettebb dolgokká álltak össze.” „[Mi, emberek] Talán olyanok vagyunk, mint az öntudat első, halovány megcsillanása, amelyet akkor érzékelünk, amikor reggel lassanként kiemelkedünk álmunkból. Egy jóval magasabb tudat előhírnökei, amely megérkezik, amint kinyitjuk a szemünket, és teljesen felébredünk. Az élet esetleg elterjed majd kozmoszunkban, és több milliárd, sőt billió éven át virágozni fog – mindez pedig talán azoknak a döntéseknek lesz köszönhető, amelyeket az életünk során itt, a mi kis bolygónkon hozunk.” „Hogy is történt tehát ez a csodálatos felébredés? Nem elszigetelt esemény volt, hanem csupán egyetlen lépés egy 13,8 milliárd éve tartó szünet nélküli folyamatban, amely univerzumunkat egyre összetettebbé és érdekesebbé teszi – és amely egyre gyorsuló iramban folytatódik.” (Folyamatok látványosan szembe az entrópiával, hiszen „egyre összetettebbé és érdekesebbé” formálták a világot – ami, a tudomány tanítása szerint önmagától nem történhet meg. S ha „egyre gyorsuló”, mire vezethet az? – OP)

„Az univerzum tágulásával [az ősrobbanás után, „az erőteljes nukleáris erő” hatására létrejött] atomok fokozatosan hideg és sötét gázzá hűltek, az így kialakult első éjszaka sötétsége pedig nagyjából 100 millió éven át tartott. E hosszú éjszaka után köszöntött be a kozmikus hajnal, amikor a gravitációs erőnek sikerült felerősítenie a gáz fluktuációit, és összefogta az atomokat, hogy megalkossa az első csillagokat és galaxisokat.” (Amíg a cáfolhatatlan tudományos bizonyítékok mindenben nem igazolják, ez vészesen emlékeztet egy kifinomult teremtésmítoszra, amit az tesz különösen izgalmassá, hogy hasonlóképp állunk az élettel is – amint azt a következő idézet mutatja. – OP)

„Ahogy maga az univerzum, az élet is fokozatosan vált egyre összetettebbé és érdekesebbé.” (Ó, az a fránya entrópia-elv! S vajon, ha az MI az ember útját folytatja, milyen lesz az ő te-remtésmítosza vagy –elmélete?, Kihez-mihez intézi majd Rilke szavait: „Mihez fogsz, Isten, ha megholtam? / szép korsód: - cseréppé omoltam?” (Ford. G. Szabó László)

Az élet érdekes definíciója: „Úgy is tekinthetünk az életre, mint egy önsokszorozó, információfeldolgozó rendszerre, amelynek szoftvere mind viselkedését, mind pedig hardvere felépítését meghatározza.” (S, nagyon nem mellesleg, a mainstream elmélet szerint ez a szoftver csak a hardver révén képes továbbadni magát – s vajon hogyan született a forrásprogramja? – OP)

Főút az MI-hez? „Miért lett az élet összetettebb? Az evolúció azt az életet jutalmazza, amely elég komplex ahhoz, hogy előre lássa és kiaknázza környezete szabályszerűségeit, így összetettebb környezetben összetettebb és intelligensebb élet alakulhat ki. Az okosabb élet komplexebb környezetet hoz létre az egymással versengő létformák számára, amely ezáltal még összetettebb lesz, míg végül egy kifejezetten komplex létformákból álló ökoszisztéma alakul ki.”

A cím magyarázata, a 3 szint: „Az élet három szakasza: biológiai evolúció, kulturális evolúció és technológiai evolúció. Az Élet 1.0 nem képes élete során újratervezni sem a hardverét, sem a szoftverét: mindkettőt a DNS-e határozza meg, és a változás csakis több nemzedéken átívelő evolúció során lehetséges. Ezzel szemben az Élet 2.0 újra tudja tervezni szoftvere nagy részét. Az ember képes összetett, új készségeket elsajátítani – például nyelvet, sportot és szakmát tanulni –, és alapjaiban megújítani világnézetét és céljait. Az Élet 3.0, amely még nem létezik a Földön, nagymértékben újra tudja tervezni nem csupán saját szoftverét, hanem a hardverét is, ahelyett hogy megvárná, míg az nemzedékek során fokozatosan fejlődik tovább.” (E szerint az Élet 3.0 a természeti törvények keretei között gyakorlatilag omnipotens, s képes mindenben feltárni e törvények végső határait, és odáig vinni a maga adottságait és eszköztárát. Elképzelhetetlen távlatok! Része lenne a mechanizmusnak, hogy nem tudjuk, mit művelünk? S a könyvön vörös fonalként végighúzódó kérdés: ha az MI az élet- és fejlődőképességben ennyire magasabb minőség az embernél, a szép új világában milyen helye, szerepe lehet mellette az embernek? Jó, bizonyára ’lefelé kompatibilis’ lesz, azaz szót ért majd velünk. Ám mit változtatna a dolgokon, ha megtanulnánk szót érteni például a hangyákkal? – OP)

„Mi, emberek az Élet 2.0-ra vagyunk példák: életünk során a hardver fejlődés, míg a szoftver jobbára tervezés következtében alakult ki. Szoftveren itt azokat az algoritmusokat és tudást értjük, amelyeket az érzékeink nyújtotta információk feldolgozásához használunk, és amelyek alapján eldöntjük, hogy mit tegyünk.” (Apró botlás: ez a „szoftver” szűkebb, mint az élet fenti definíciójában szereplő. És igazából a szoftverünk nagyon is meghatározó hányadát a törzsfejlődés fejlesztette ki bennünk, arra ült, annak befolyása alatt működik a civilizációs 'felépítmény'. Elég, ha ennél csak az ösztöneinkre gondolunk, különös tekintettel a szexre, az utódnevelésre, vagy épp a 'törzsi' magatartásokra. Többszázezer év szervesen bevésődött beidegződéseit, amelyek oly sokban szolgálnak szellemi működésünk alapjául, hogyan is írhatná felül egy-két ezer év ’civilizációs’ tanítása? Tudatunk ’vékonyságát’ jól mutatja, hogy a modern tömegkommunikáció nagyrészt nem a gondolkodásunk tudatos rétegét célozza, hanem az alatta lévőket. – OP)

Erről szól a könyv: „A kozmikus evolúció 13,8 milliárd éve után a fejlődés drámai mértékben felgyorsult a Földön: az Élet 1.0 nagyjából 4 milliárd éve bukkant fel, az Élet 2.0 (az ember) nagyjából százezer évvel ezelőtt érkezett, és számos MI-kutató szerint az Élet 3.0 – a mesterséges intelligencia fejlődésétől hajtva – akár az elkövetkező évszázadban megvalósulhat, vagy talán már saját életünk során. Hogyan történik majd mindez, és mit jelent számunkra? Erre próbálunk választ találni ebben a könyvben.”

A lényeget kutató prognózis viták: „A kérdéskör rendkívül ellentmondásos. A világ vezető MI-kutatói nemcsak az előrejelzésekkel kapcsolatban nem értenek egyet, hanem szélsőséges érzelmi reakciókat is mutatnak a magabiztos optimizmustól kezdve a komoly aggályokig. Még olyan rövid távú kérdésekről sem alakult ki konszenzus, hogy milyen gazdasági, jogi és hadászati következményekkel járhat az MI, a véleménykülönbség pedig csak fokozódik, amikor az időhorizontot tovább tágítva az általános mesterséges intelligenciáról (ÁMI) esik szó. Különösen érzékeny kérdés, hogy az ÁMI mikor éri el és haladja meg az emberi szintet, hogy lehetővé váljék az Élet 3.0 megszületése. Az általános intelligencia gyakorlatilag bármely célt képes elérni, köztük a tanulást is, ellentétben például a sakkozóprogramok szűk intelligenciájával.”

„Az Élet 3.0-ról szóló vita két különálló kérdés köré épül: mikor és mi? Mikor következik be (ha egyáltalán), és mit jelent majd az emberiségre nézve? Három jól elkülöníthető filozófiai iskolát érdemes számba vennünk, mindháromhoz világklasszis szakemberek is tartoznak: a digitális utópistákét, a technoszkeptikusokét és a jó szándékú MI mozgalmáét. (...) A technoszkeptikusok és digitális utópisták egyetértenek abban, hogy aggodalomra semmi ok, de egészen eltérő okból: az előbbiek meggyőződése, hogy az ÁMI belátható időn belül nem jöhet létre, míg az utóbbi csoport szerint bekövetkezik ugyan, de biztosan jó dolog lesz. A jó szándékú MI mozgalma szerint az aggodalom jogos és észszerű, mert az MI-hez kapcsolódó biztonságtechnikai kutatásoknak és vitáknak köszönhetően egyre nagyobb a valószínűsége, hogy jó irányba megy a folyamat. A gépromolók biztosra veszik, hogy az egésznek rossz vége lesz, és ellenzik az MI-t.” (Az ÁMI viszonylag gyors létrejöttét illetően: a műszaki fejlődés egyértelmű, tartós gyorsulása alapján meglehetősen valószínű, hogy annak egyetlen dolog állhatja útját: ha az ember már azt megelőzően szétveri a civilizációját. Az említett utópisták épp azért azok, hogy ilyen szépet higgyenek – ám aligha található kemény bizonyíték arra, hogy e hitnek bármi szilárd alapja lenne, amint a jó szándékú MI mozgalom reményének sem. Az érdekek, akár vakon és ostobán is, eddig mindig felülírták a biztonsági megfontolásokat, és mi hozhatna trendfordulót e folyamatokban?

A 'tervező' az embernél nem tudta elérni, hogy mentes legyen a másokkal szembeni agresszív indíttatásoktól – sőt, azokat a törzsfejlődés nagyon is beleépítette –, s még kevésbé, hogy tekintettel legyen másokra. Ezt az olyan »társadalmi szerződések« is csak igen korlátozottan tudták megvalósítani, mint a Tízparancsolat, a Biblia tanításai vagy épp a törvénykönyvek. Miért fogna e tekintetben jobban a MI-n az ember tanítása, főként ha nézi, maga az ember hogyan tartja be azokat? Mi akadályozhatja az önfejlesztő MI-t, hogy túllépjen ezen, különösen ha felismeri saját érdekeit?

A géprombolók aggodalma nem alaptalan, különösen, hogy a „rossz vég” több különböző módon is előállhat – amiben persze nagy kérdés, mi rossz, mi jó a lehetséges fejlemények körében –, az viszont nem kétséges, hogy az MI útját nem tudják elállni. Tegmark idézi Larry Page-et [Google], aki szerint „az MI-paranoia késleltetni fogja a digitális utópiát, és/vagy oda vezet, hogy a hadsereg átveszi az MI-t, ez pedig szöges ellentétben állna a Google »Ne légy gonosz!« szlogenjével.” Történelmi ismereteink alapján nem lehet kétséges, hogy a hadiipar mindenképp átveszi, sőt, az élenjáró eredményeit, titokban vagy sem, már most is alkalmazza – ilyen az ember társadalma. A modern innovációk nagy hányada pedig eleve a hadiiparban születik.  – OP)

Rémkép vagy »Térdre! Imához!«? „Az öntörvényű intelligenciának nincs szüksége robottestre, mindössze internetkapcsolatra. A negyedik fejezetben látni fogjuk, hogyan lehetnek képesek átverni a pénzügyi piacokat, meghaladni az emberi feltalálókat, manipulálni és félresöpörni az emberi vezetőket, és számunkra érthetetlen működésű fegyvereket kifejleszteni. Ha a robotok létrehozása fizikailag lehetetlen volna is, egy szuperintelligens és szupergazdag MI könnyen megfizethetne és manipulálhatna sokmilliónyi embert, akik öntudatlanul is engedelmeskednének neki.”

A könyv kínálata: „Először ismerjük meg az élet történetét, időrendjét és fogalmait, majd vegyük sorra a célok és a jelentés kérdéseit, illetve mindazt, amit tennünk kell, hogy a vágyott jövőt érhessük el.” (Ez az első fejezet összegzése. – OP)

Ehhez az intelligencia itteni jelentéstartalma: „Amikor egy vezető MI-kutatókból álló panelt arra kértek, hogy definiálják az intelligencia fogalmát, a tagok hosszasan vitatkoztak, de nem jutottak egyetértésre. Igazán különös, hogy még az intelligens intelligenciakutatók között sincs konszenzus az intelligenciáról! Az intelligenciának tehát nincsen vitathatatlanul ’helyes’ definíciója. A meglévő meghatározások pedig, amelyekben a logika, megértés, tervezés, érzelmi tudás, öntudat, kreativitás, problémamegoldás és tanulás képessége egyaránt felbukkan, jellemzően rivalizálnak egymással. Az intelligencia jövőjének tárgyalása során átfogó és megengedő értelmezést alkalmazunk, amely nem korlátozódik az intelligencia eddig létrejött formáira. Az előző fejezet (utalás az első fejezetre – OP) intelligenciafogalma alapján a kifejezés mindvégig rendkívül tág értelemben használatos: Intelligencia = összetett célok elérésének képessége. Ez elég általános ahhoz, hogy az összes fent említett meghatározást felölelje, hiszen a megértés, öntudat, problémamegoldás, tanulás stb. mind összetett célokra jelent példát.”

Az IQ-ról: „Mivel számos lehetséges cél létezik, sokféle lehetséges intelligenciatípus van. Definíciónk szerint tehát semmi értelme számszerűsíteni az emberek, állatok vagy gépek intelligenciáját az IQ-hoz hasonló egyetlen számmal.” és „Az összetett célok elérésének képességeként definiált intelligencia nem mérhető egyetlen IQ-val, csakis az összes célra kiterjedő képességspektrummal.”

 „A második fejezetben megismerjük az intelligencia alapjait, és azt, hogy a tudatlannak látszó anyag miképpen szervezhető újra, hogy képes legyen emlékezni, számításokat végezni és tanulni. Ahogy feltárul előttünk a jövő, történetünk különféle lehetséges forgatókönyvek felé ágazhat el, bizonyos kulcskérdésekre adott válaszaink alapján. Az 1.4. ábra összefoglalja ezeket a kiinduló kérdéseket, amelyekkel a potenciálisan még fejlettebb mesterséges intelligencia felé tartó időutazásunk során találkozni fogunk.”

„Egyelőre azt a döntést kell meghoznunk, hogy elkezdjük-e az MI-fegyverkezési versenyt (a valóságban az élet ettől a döntéstől már megkímélt, ez a verseny már nagyban folyik. Az ember társadalmainak közös, állandó vonása – talán piciny közösségek kivételével -, hogy amiből fegyver kovácsolható, abból fegyver lesz. Ékes-éktelen példa erre a modern informatika és telekommunikáció a mesterségesen létrehozott, agresszíven terjesztett és állandóan fejlesztett vírusokkal és egyéb kártevőkkel, majd az ezekből táplálkozó kiberhadviseléssel – OP), és azt kell megválaszolnunk, hogyan mentesíthetjük a programhibáktól és miként terjeszthetjük ki a holnap MI-rendszereit. („programhibák”: izgalmas kérdés az önfejlesztő MI tekintetében. Az evolúció is programhibákból építkezik. – OP) Ha az MI gazdasági hatása növekedni kezd, azt is el kell döntenünk, hogyan modernizáljuk a törvényeket (ami túlnyomó részben az erőviszonyoktól függ majd – OP), milyen pályaválasztási tanácsot adjunk a gyerekeknek, hogy elkerülhessék a hamarosan automatizálandó munkaköröket (az is szép versenyfutás lesz! – OP). Ezeket a rövid távú kérdéseket a harmadik fejezetben bontjuk ki.”

„Amennyiben az MI fejlődése tovább folytatódik az emberi szint felé (ez sem kérdés, garantáltan bekövetkezik, hacsak ki nem esik alóla a civilizáció – OP), azt a kérdést is fel kell tennünk magunknak, miképp biztosíthatjuk a jóindulatát (erről fentebb már esett szó – OP). Meg kell fontolnunk, létre tudjuk-e hozni vagy létre kell-e hoznunk a pihenő társadalmat, amely munkahelyek nélkül is virágzik? (Sokféle virág van ám, mérgező is, húsevő is. – OP) Mindebből az a kérdés következik, hogy az intelligenciarobbanás vagy a lassú, folytonos növekedés juttathatja-e el az ÁMI-t az emberi szinten túlra. Több ilyen forgatókönyvvel is találkozunk majd a negyedik fejezetben, az ötödikben pedig megvizsgálunk számos lehetséges következményt, amelyek a vitathatatlanul disztópikustól a vitathatatlanul utópisztikusig terjednek. Kinél van az irányítás: az embernél, a mesterséges intelligenciánál vagy a kiborgoknál? Az emberekkel jól vagy rosszul bánnak? Lecserélnek-e minket, és ha igen, akkor hódítóknak vagy méltó utódoknak tekintjük-e őket? Rendkívül izgalmas kérdés, hogy az ötödik fejezetben felvázolt forgatókönyvek közül ki melyiket választaná.” (Már ha egyáltalán beleszólást kaphat a dolgok menetébe – ami az eddigi történelem minden tanítása szerint a legtöbbször csak keveseknek adatik meg, ha egyáltalán. Az is meglehetősen egyértelműnek tűnik, s meghatározó lehet a ’beleszólás’ kérdésében, hogy miközben a modern tudomány és technika mind intelligensebb gépeket, rendszereket állít elő, a társadalmakban a viszonyok úgy alakulnak, hogy tömegek körében a ’közösségi intelligencia’ egyre inkább elfordul a nagy társadalmi kérdésektől, belétáplált elterelő, kisszerűbb kérdések és csalóka értékek felé. – OP)

„Végül a hatodik fejezetben több milliárd év átugrásával furcsamód határozottabb következtetést vonunk le, mint a korábbi fejezetekben: a kozmoszunkban virágzó élet végső korlátait nem az intelligencia, hanem a fizika törvényei határozzák meg.” (Sokkal meglepőbb lenne e következtetés ellenkezője mellett kiállni, vagy akárcsak afelé hajlani. Ha csak élesen el nem választjuk az élet evolúcióját az anyagétól – ami ugyebár óhatatlanul is markáns választás lenne nézetrendszerek közt -, egy ilyen kiállás kiterjesztené az intelligencia primátusát az anyagra is. – OP)

„Az intelligencia történetének felvázolása után átgondoljuk, milyen jövőt szeretnénk, és hogyan érhetjük el. Hogy összekapcsoljuk a rideg tényeket a cél és jelentés kérdéseivel, a hetedik fejezetben feltárjuk a célok fizikai alapját, míg a nyolcadikban a tudatosság alapjait vizsgáljuk meg. Végül az epilógusban megnézzük, mit tehetünk már ma, hogy a vágyott jövőt alkothassuk meg.”

„A legtöbb fejezet viszonylag önálló, ha tisztában vagyunk az első fejezetben és a második fejezet elején bemutatott terminológiával és definíciókkal.”

Mit is kaptunk a fejünkbe az evolúciótól? „A feladatok bonyolultságát természetes módon aszerint értékeljük, hogy számunkra mekkora nehézséget jelentenek. Ez azonban eltér attól, milyen nehezen végrehajthatóak a számítógépek számára. Sokkal bonyolultabbnak tűnik összeszorozni a 314 159-et a 271 828-cal, mint felismerni egy fényképen a barátunkat, a számítógépek ennek ellenére már ötven éve is kenterbe vertek bennünket aritmetikában, míg az emberi szintű képfelismerés csak nemrégiben vált lehetővé. Ezt nevezzük Moravec-paradoxonnak: az egyszerűnek tűnő, alacsony szintű szenzomotoros feladatok hatalmas számítási erőforrást igényelnek. Agyunk ezeket a feladatokat azért érzékeli könnyűnek, mert hatalmas mennyiségű célirányos hardvert szentel nekik – ami azt illeti, elménk több mint negyedét.” (Érthető: a törzsfejlődés során a fennmaradáshoz matematikai képességek nemigen kellettek, viszont felismerni barátot és ellenséget, ehetőt és ehetetlent, tájékozódáshoz tereptárgyakat annál inkább. Aki az utóbbiakban rosszul teljesített, aligha adhatta tovább a génjeit. – OP)

Neurális hálózatok: Tegmark vázolja, hogy elménk hardvere neurális hálózatokkal működik. Érdekes következtetése: „Az evolúció valószínűleg nem azért tette biológiai neuronjainkat olyan bonyolulttá, mert szükséges volt, hanem azért, mert így lett hatékonyabb – és az evolúció, az emberi mérnököktől eltérően nem az egyszerű és könnyen megérthető dizájnt részesíti előnyben.” (Igazából itt nem is annyira a neuronokra utal, hanem a belőlük felépülő neurális hálózatok struktúrájára. A tudatosságnak e fogalmazásból kicsillanó feltételezése csábító téma, de itt kihagyjuk. Az viszont mindenképp említést kíván, hogy a törzsfejlődés során fennmaradt konstrukciók bizonyára nem önmagukban optimalizáltak, hanem az összességük, maga a velük működő élő szervezet optimalizált, az is csak a többi versenyzőhöz képest. – OP)

Rejtélyek: Kutatásai nyomán írja: „[Rájöttünk, hogy] a neurális hálózatok által is megoldható függvények igencsak hasonlítanak a fizikában használatos függvényekhez. (...) Ez nemcsak azt magyarázza meg, hogy a neurális hálózatok miért olyan népszerűek manapság az MI-kutatók körében, hanem azt is, hogy miért alakultak ki az agyunkban a neurális hálózatok: ha agyunk a jövő megjóslására alakult ki, akkor logikus, hogy olyan számítási architektúra fejlődött ki, amely pontosan a fizikai világban alkalmazott számítási problémákban működik jól.” („a fizikai világban alkalmazott számítási problémákban”: a legutóbbi tucat – vagy akár pár tucat évezredet megelőzően, amelyek során agyunk felépítése és fiziológiája már nem változott, milyen számítási problémákat kellett a törzsfejlődés során eleinknek megoldaniuk a fennmaradáshoz, ami ilyen képességgel ruházott fel? Az nyilvánvaló, hogy készen kaptuk agyunkban a hardvert, amelyet a matematika felfedezésével kitűnően használhattunk olyan feladatokra, amilyenek elé nem az ön- és fajfenntartás állított, amint egyéb tudományok művelésére is, ám vajon miért hozta létre a 'tervező' ezt a rengeteg, magához az élethez nem mindenben szükséges ’hardver’ kapacitást? Ha a törzsfejlődést mozgató erőnek – amely legalább abban áll, hogy minden élőlény automatikusan igyekszik életben maradni és szaporodni [vajon ezt mi ültette beléjük felülírhatatlan parancsként?] – nincs célja, s az élőlények alkotóelemei, oprendszerei csak a túlélést szolgálják, akkor mi hajtotta ezen messze túl az agyunk fejlődését? – OP)

„A tanulás története legalább olyan hosszú, mint az élet története. Minden önreprodukcióra képes szervezet érdekes információmásolást és -feldolgozást hajt végre – ez pedig olyan viselkedés, amelyet valamiképp megtanultak.” („legalább”? Mi is tanult az élet előtt? Az „önreprodukcióra képes szervezet” vajon nem maga az élet? És „valamiképp megtanultak”: újabb rejtély, hogy miképp és mi hajtotta ezt. A másolás szükségessége érthető, hiszen nélküle nincs reprodukció – de honnan ez a képesség? 'Isteni adomány' az élet létrejöttéhez? És a feldolgozás képességének létrejötte? – OP)

„Körülbelül félmilliárd évvel ezelőtt a Földön bizonyos génsorok ’felfedezték’, hogyan lehet neurális hálózattal rendelkező állatokat létrehozni, amelyek az életük során átélt tapasztalatokból is képesek tanulni. Megérkezett hát az Élet 2.0, és mivel lényegesen gyorsabban tanult, így versenyelőnyre tett szert, és rohamos tempóban terjedt el a bolygón.” (Ez meg hogyan, mi hajtotta? Az egész Élet sorsát megváltoztató minőségi ugrás a semmiből? – OP)

„Ahogyan az első fejezetben már láttuk, az élet egyre hatékonyabban tanult, méghozzá folyamatosan növekvő sebességgel. Bizonyos majomszerű fajok tudáselsajátításra termett agyat fejlesztettek ki, így megtanulták a szerszámhasználatot, a tűzrakást, megalkották a nyelvet, és komplex, globális társadalmat hoztak létre.” (Hagyjuk a „fejlesztettek ki” szóhasználat sugallt jelentéseit, ám ez mindenképp úgy hat, hogy a hardver – az agy – fejlődése előtte járt a szükségleteknek, a képesség már megvolt, amikor az ember felfedezte az igényét rá, és erre csatlakozhatott a felhasználás, sőt, a neuroplaszticitás révén a képesség további fejlesztése a használatnak megfelelően. Ám mi hajtotta az eredeti 'többletkapacitás' létrejöttét, valamint a további sorsdöntő képesség, a neuroplaszticitás kialakulását? – OP)

Világos lényeg, rejtőzködő miként: „2015-ben a Google DeepMind kijött egy MI-rendszerrel, amely mély tanulás segítségével több tucat számítógépes játékkal boldogult egy gyermek szintjén – mindenféle utasítás nélkül –, és rövid idő alatt bárkinél jobban tudott velük játszani. 2016-ban ugyanez a vállalat létrehozta az AlphaGót, egy gót játszó számítógépes rendszert, amely mély tanulás segítségével méri fel a táblán lévő különböző állások erősségét, és amelynek sikerült legyőznie a világ legerősebb gobajnokát. (...) Miért volt mindennek ekkora jelentősége? Nos, ahogy már láttuk, az intuíció és kreativitás alapvető emberi tulajdonságok. Lássuk hát, hogyan használta mindkettőt egyszerre az AlphaGo.

A gojátékosok felváltva helyezik el fekete és fehér köveiket egy 19×19-es pályán. Jóval több lehetséges gopozíció létezik, mint ahány atom van az univerzumban, ami azt jelenti, hogy az összes érdemleges potenciális lépéssorozat gyors elemzése reménytelen. A játékosok éppen ezért erősen támaszkodnak tudatalatti megérzéseikre, a racionális okoskodást kiegészítve. A szakértők szinte természetfelettinek ható érzékkel mérik fel, mely pozíciók erősek, és melyek gyengék.

Ahogyan azt az előző fejezetben is láttuk, a mélytanulás eredményei időnként az intuícióra hasonlítanak: a mély neurális hálózat anélkül is meghatározhatja, hogy egy kép macskát ábrázol, hogy meg tudná magyarázni, miért. (Meglehetősen meredek állítás. A neurális hálózat egy logikai rendszer, bármilyen összetett és bonyolult is. A kimeneteit is a logikai működés állítja elő a rendszer törvényei szerint. Gondoljuk meg, hogyan fér ebbe bele, hogy a rendszerben ne legyen meg annak magyarázata, hogyan jött létre a kimenő eredmény? Alighanem sehogy, legfeljebb a vele dolgozók nem tudják ezt felfedni – ami nagyon bonyolult rendszereknél, s még inkább az öntanulóknál megeshet. – OP) A DeepMind-csapat éppen ezért abból az elképzelésből indult ki, hogy a mélytanulás nem csupán macskákat tud felismerni, hanem erős gopozíciókat is. Az AlphaGóba azt az alapelgondolást építették be, hogy a mélytanulás intuitív erejét (? – OP) az ún. GOFAI logikai kapacitásával párosítják. A GOFAI a mélytanulás forradalma előtti időkből származó ’jó kis régimódi MI’ (Good Old-Fashioned AI) kifejezés vicces rövidítése. Bevetették a gopozíciók hatalmas adatbázisát, amelyben emberi játszmák és olyan meccsek szerepeltek, ahol az AlphaGo saját klónjával játszott. Betanítottak egy mély neurális hálózatot, hogy az adott pozícióból megjósolja a fehér győzelmének valószínűségét, egy különálló hálózatot pedig arra, hogy a következő lépést jósolja meg. A hálózatokat ötvözték a GOFAI-módszerrel, amely átvizsgálta a valószínű jövőbeli lépések szűkített listáját, hogy azonosítsa azt a következő lépést, amely a későbbiekben a legerősebb pozíciót eredményezheti.” („tudatalatti megérzés”, „szinte természetfelettinek ható érzék” – szép és jól ismert fogalmak annak elfedésére, hogy nem igazán tudjuk, hogyan intézi az elme az ilyen feladatok megoldását. Lényegében ott vagyunk, mint  Anders Ericsson és Robert Pool magyarázata a Csúcsteljesítmény - A szakértelem és a kiválóság pszichológiája c. könyvükben rendkívüli szellemi teljesítményekre, mint pl. a szimultán vaksakk és általában a sakkmesterek speciális képességeire: „A kiváló teljesítményt gyakorlatilag minden területen az a képesség fémjelzi, hogy valaki meglátja a mintázatot olyan halmazokban, amelyek a kevésbé fejlett mentális reprezentációval rendelkezők számára véletlenszerűnek vagy zavarosnak tűnnek. Más szóval a szakértők meglátják az erdőt ott, ahol mindenki más csak fákat lát.” Magyarázatuk a sakkmesterek esetében mintázatokról és „tömbökről” szól, és „mire egy sakkozóból mester válik, nagyjából 50 ezer ilyen tömböt gyűjt össze. Egy mester, aki megvizsgál egy sakkpozíciót, tulajdonképpen tömbök halmazát látja, amelyek más mintázatokban további tömbökhöz kapcsolódnak.” Hogy mire képes így a jól pallérozott, vagy eleve zseniális elme, azt a példák jól mutatják. Hogy miként képes erre – túl azon, hogy érdekes ’meséket’, modelleket alkotunk róla –, ennek felderítése még előttünk áll. Az viszont nagyon is valószínű, hogy a mély- és még rejtelmes értelmű kifejezések – intuíció, tudatalatti megérzés, mintázatok – mögött ugyanaz az elmeműködés rejlik. – OP)

Szól a vészcsengő? A neurális hálózatokról írja Tegmark, hogy „a közelmúltban tapasztalt sikere[ik azt mutatják, hogy] gyakran túltesznek a hagyományos, könnyen érthető MI-algoritmusokon – csak éppen a kiismerhetetlenség árán.” (De hogyan uralhatnánk az MI-t, ha nem is értjük, s főleg így hogyan vesszük észre a veszélyt, mielőtt fölénk nő? – OP)

„Az MI immár készen áll arra, hogy a játéktáblán túl is rangsorolja és kihívja (vagy segítse) a legjobb emberi stratégákat: akár a befektetési stratégia, a politikai stratégia vagy a hadászati stratégia területén. A való világbeli stratégiai problémákat az emberi pszichológia, a hiányzó információk és a véletlenszerűként modellezendő tényezők is bonyolítják, de a pókerező MI-rendszerek már bebizonyították, hogy e kihívások egyike sem legyőzhetetlen.” » Oh! irgalom atyja, ne hagyj el.« !