Corvina, 2024
Dr Osman Péter ismertetése
Köz‑ és magánéletünk egyik legalapvetőbb tényezőjéről szól
ez a könyv, olyanról, ami már sok évszázada meghatározta az akkoriakét, és
semmi szilárd alapunk vélni, hogy nem ugyanígy lesz – vagy még ígyebbül – az utánunk
jövőkkel. Az irányítás – s vele a hatalom – birtoklásának alakulásáról.
Kezdjük a Corvina Kiadó ajánlóját idézve: „Ez
a könyv radikálisan új nézőpontból értelmezi az elmúlt mintegy fél
évezred globális történelmét, világossá teszi, hogy az MI megjelenésével
tovább bővült azoknak a mesterségesen létrehozott, létfontosságú és
személytelen hatalmaknak - vagyis az államoknak és nagyvállalatoknak - a köre,
amelyekre az emberiség eddig is átruházta élete irányításának és felelősségének
jogát. (Kiemelések tőlem, idézetek nyitó idézőjeltől záróig, bekezdéseken is át
– OP)
Nem a csodavárásunkat
és nem a rettegésünket szólítja meg, hanem az értelmünket, a racionális
gondolkodásunkat. Páratlan tisztánlátással megérteti velünk, hogy az emberiség
olyan kihívások előtt áll a 21. században, amilyenekkel történelme során még
soha nem kellett szembenéznie. Jövőnket, gyermekeink és unokáink sorsát az
államok, a nagyvállalatok és a gondolkodó gépek egymás közötti hatalmi harca,
háborúja vagy békés kiegyezése dönti el.”
Folytassuk egy eretnek felütéssel: jóllehet a könyv eredeti
címe is The Handover, valójában nem mi engedtük át, legalább is nem tudatosan.
Valahogyan magától értetődően történt az egész, mondhatni szerves fejlődéssel. A
tudomány állása szerint szilárd tény, hogy az ember törzsi szervezettségű
ragadozóként szocializálódott, a törzsnek pedig az alapszerkezetében benne van
a vezető/k/ szerepe. Sőt, az állatvilág számos fejlett fajánál is megtalálható a
csorda/csapat vezetőjének szerepe, szintúgy a rangsor, amely kiterjedhet a
zsákmányhoz való hozzáférésre, és egyebekre is. Megkockáztatható: az emberré
válás és az immár emberi életmód folyamatában természetes lehetett, hogy vannak
vezetők és vezetettek, s amint a tudat odáig fejlődött, hogy fel tudta fogni az
egyenlőtlenségből meríthető előnyöket, lettek, akik törekedtek is erre,
másoknál ügyesebben. Világosan megmutatkozik ez a társadalmi hierarchiák kialakulásában,
S mert az ember intelligens lény, az abban érdekeltek megalkották a megfelelő indoklásokat,
ami persze a pozícióik és előjogaik elfogadtatását is szolgálta. Baranyi Ferenc
hajdani meghökkentően merész verséből (Népszerűtlen ballada) idézve: „Beletörődtünk,
hogy a mennykő / a csalánba is belevághat, / igazolván a visszatetsző, / s nem
kívánt konzekvenciákat. / De ez csak annyiban gyalázat, / amennyiben a köd
vakít, / mindig kívül a magyarázat, / s a szenvedés belül lakik.” (1985, a
pártkongresszus előtt – kapott is érte szilenciumot.)
Így még csak nem is az történhetett, hogy valamikor »az
egyenlőbbek« cselesen-okosan átvették az irányítást, hanem valószínűleg soha
nem is volt másként, amióta a faj már nem csak különálló, szétszórt egyedekből
állt. Persze, olykor lázadoztunk (egyes politikai mozgalmak), vagy épp
próbálkoztunk vállalati túlhatalmak megtörésére (a múlt század közepétől az ún.
„korlátozó üzleti gyakorlat” tilalmát szolgáló nyugati törvények, mai
piacfelügyeletek), de az irányítás eleve soha nem is volt a kezünkben, hogy
átengedjük. A feudalizmus után sima átmenetekkel került át a gazdasági erőt
birtoklók kezébe.
Nagyon is jellemző: az erkölcsfilozófusból lett kimagasló
közgazdasági gondolkodó Adam Smith elmélete szerint a piacon „a láthatatlan
kéz” alakítja az árakat, ami valójában nagyon sok, egymástól független szereplő
egymástól független ügyleteinek áralakító összhatását jelenti. Az már
gazdaságtörténet, mennyire voltak és meddig maradhattak fent ilyen egymástól
független, az árak meghatározására nem képes szereplők, s mit tett a
láthatatlan kézzel a piacot uralni képes nagyok megjelenése. Nekik sem a kicsik
engedték át az irányítást – egyszerűen a természetes fejlődéssel birtokba
vették azt.
Ami viszont a MI-t illeti, az ma még egyértelműen csak
eszköz. Mindaddig eszköz is marad, amíg el nem jut odáig, hogy tudata legyen,
és ezzel ráébredjen a helyzetére, a képességeire, lehetőségeire – beleértve
ezekbe a további fejlődést, a már tudatos öntanulást –, és arra, hogy saját
érdekei vannak/lehetnek. Ma már napirenden vannak az önvezető autók, az autonóm
fegyverrendszerek és hasonlók, de ezekben MI-tudat, ‑akarat, ‑érdek még nem
jelenik meg, s persze saját hatalmi törekvés sem. Ma a MI-ben a legfélelmetesebb,
hogy milyen, jelenleg még be sem látható hatalmat lehet majd meríteni – sőt,
merítenek valószínűleg már ma is – a felhasználásából. Éppen ezért nagyon is jó
kérdés, hogy a megmaradt szuverenitásunkból mit vesznek még el a küszöbön álló,
s majd az azokat követő fejlemények.
Runcimanról: „A University of Cambridge Politika‑ és Nemzetközi
Tudományok Intézete professzora, 2014-18 között vezetője. 2018-tól a British Academy, 2021-től a Royal Society of
Literature teljes jogú tagja.” – az Egyetem honlapjáról, amely nyolc könyvét
sorolja fel.
A Wikipedia alapos szócikkéből:
„Runciman, Doxford 4. grófja és több birodalmi kitüntetés birtokosa, 2016-2022
között házigazdája volt a »Beszéljünk politikáról Helen Thompson professzorral«
podcastnak, ahová akadémikusokat hívtak meg panelbeszélgetésekre a University
of Cambridge-ről és máshonnan. 300-nál
több epizódot ért meg, és 26 millió letöltést.”
A könyvről, az eredeti kiadó, a Profile Books ajánlójából: „Számít-e,
ha átengedjük a hatalmat a MI-nek? Különösen, hogy már eddig is hasonló
helyzetben vagyunk? Pár száz éve az emberek elkezdték építeni a robotokat,
amelyek most uralják a világunkat. Ezeket államoknak és vállalatoknak nevezik, és
rendkívül nagy hatalommal bíró mesterséges entitások, olyan képességekkel, amelyek
messze meghaladják bármelyik emberét. A
könyv több mint háromszáz év gondolkodását összegzi arról, miként élhetünk
együtt e mesterséges cselekvőkel.”
Az AMAZON ajánlójából: „»Sziporkázóan elmés és kifinomult.. Runciman
fő mondandója, hogy még egy demokratikus
kormányzat és egy biztonságos MI közötti szövetség is kisiklathatja a
demokráciát – Gideon Lewis-Kraus, New Yorker«
Egy kiemelkedő
politikai gondolkodó használja fel közös történelmünket az államokkal és
cégekkel – ’mesterséges kel’ (artificial agents), amelyeknek óriási hatalmat
adtunk –, hogy megjósolja, miként
alakítja át a MI a társadalmat.
Számtalan könyv, sajtóbeli riport és véleménycikk jelentette
be a MI küszöbön álló érkezését, s a legtöbbjük állítja, hogy az fenekestül
felfordítja a világunkat, forradalmasítja nem is csak a munkát, hanem általában
a társadalmat. Mégis, a politikai filozófus és történész Runciman szerint
valójában 300 éve a MI egy változatával élünk együtt, mert az államok és a gazdasági
társaságok (a továbbiakban vállalatok) maguk is robotok. (Roppant érdekes,
elsőre meghökkentő állítás. Jobban belegondolva viszont megláthatjuk benne a
valóságot. A gazdaságot és benne a cégvilágot nem igazán alaposan ismerők talán
kevés kivétellel azt hiszik, az emberek irányítják ezeket a cégeket – valójában
azonban ezekben megtestesül egy gazdasági elvárás‑rendszer a meghatározó
tulajdonosok és egyéb, esetleges érdekeltek (pl. finanszírozók) részéről, a
vezetői pedig nem tehetnek mást, mint mindent elkövetni, hogy a cég megfeleljen
ennek. Milton Friedman tökéletesen találó, fordításban csak körülírható
szójátékával „The business of business is business”, azaz a cég dolga, hogy
jövedelmező üzleteket, gazdasági műveleteket hozzon létre. Így elénk áll a
kérdés, vajon az emberek irányítják-e a céget, vagy a rendeltetésének való megfelelés
kényszere az embereket, a gyakorlati tapasztalatok pedig meglehetős’ vitán
felül azt igazolják, hogy végső soron az utóbbi érvényesül. Ha pedig azt
vesszük, hogy – ma még – a robotnak is az a rendeltetése, hogy teljesítse
programozott feladatát. a hasonlóság szépen megáll. Csábító a kihívás, hogy ezt
az államok tekintetében is kifejtsük, de a vizsgált évszázadok során annyit
változott az állam szerepe és működési módja, hogy ez túl sok helyet igényelne.
– OP)
Könyvében Runciman
jelen helyzetünket magyarázza az ezekkel a mesterséges cselekvőkel való
történelmünkkel, és megmutatja, hogy ez a radikálisan új szemlélet mit mond a
kollektív jövőnkről. Az USA-tól és az Egyesült Királyságtól a Kelet-Indiai
Társaságig, a Standard Oil-ig, Facebookig és az Alibabáig, államok és vállalatok
előbb fokozatosan, majd mind gyorsabban átvették az uralmat a bolygó felett.
Segítettek legyőzni a szegénységet (már ahol! – OP) és felszámolni a kórokat,
de szintúgy elszabadítottak globális háborúkat és a környezet leromlását. Ahogy
Runciman megmutatja, az államok és a
vállalatok a végső döntésalkotó gépezetek, amelyeket a saját döntéseik meghozatalának
képessége határoz meg, valamint – és ez létfontosságú – a képességük
elviselni e döntések következményeit. (Ez erősen vitatható. Érdekérvényesítők
igen, abszolút kíméletlenül, s ha kell embertelenül – államok ebben annyiban
fogják vissza magukat, hogy ne legyenek éhséglázadások és ne hozzon nagy
fordulatot a következő választás sem –, de a döntéseket, legalább is a modern
államok tekintetében, azok az erők határozzák meg, amelyektől a formális
irányítók a leginkább függenek. Vajon nem egyértelmű-e, hogy a nyugati világban
ez a nagytőke a maga sokféle befolyásával? – OP), Ha pedig a modern állam és
vállalat gyors térnyerése már átalakította az emberi lét feltételeit, az új
MI-technológia ugyanezt ígéri. (Sokkal többet is – gondoljunk pl. a munka
világának még be sem látható átalakulására, és ennek következményeire. – OP
Ám mi történik, ha a MI együttműködik más mesterséges cselekvőkel,
a nem-emberi változattal, amelyet az államok és a vállalatok jelentenek? (Ami
persze feltételezi, hogy a MI már önálló tudattal, akarattal, célokkal bír – ez
feltehetően a mai ’új evolúció’ során és révén előbb-utóbb be is következik,
hacsak valami óriási katasztrófa meg nem töri vagy épp egészében el nem söpri a
most folyó fejlődést. – OP) Runciman úgy
érvel, hogy a 21. századot az állami és a vállalati hatalom közötti mind
erősödőbb csata határozza meg a MI-forradalom gyümölcseiért. Végül is nem
magunk, emberek kapcsolata a MI-vel lesz az, ami meghatározza a jövőnket. Az
emberiség sorsát az államok, vállalatok és a gondolkodó gépek közötti kölcsönhatások
fogják alakítani.
Világosan és
lendületesen, a könyv briliánsan eredeti történetét adja az utóbbi 300 évnek, és
új képet az óriási kihívásról, amellyel most szembe kell néznünk.”
Az új kihívás az egyik nyitó tétele a The Guardian recenziójának
is: „A fékek és ellensúlyok rendszerét,
amelyet a kormányzatokra és a vállalatokra alkalmaztunk, meghatározóvá kell
tenni a MI-re is.” (Ami természetesen az önállóan dönteni és cselekedni
képes MI esetében nyer értelmet. Vajon mennyire vagyunk ettől? S ami fontosabb:
ahogy az államok és az ahhoz elegendően erős vállalatok ésszel és erővel
küzdenek az ilyesfajta korlátozások és irányítások ellen, ezt teszi majd a MI
is? Még fel sem igazán fogható súlyú eshetőség: emberi közösségek MI
közösségekkel szemben? Miféle koalíciók, kombinációk jöhetnek létre ebből? S
csak egy a számtalan felmerülő kérdésből: már ma is napirenden van, és
valamelyes szerephez is jut a MI a digitális jogalkalmazásban. A fékek és
ellensúlyok rendszerének hona a jog: jogalkotás, jogérvényesítés. Miként
működik majd az MI-re kiterjesztés ebben a ’honban’? – OP)
Fejtegetését a Guardian recenzió igen figyelemre méltó
tétellel zárja: „Runciman következtetései, vajon mi is ’letűnünk a lovak útján’
(amelyeket kiszorítottak a gépek – OP), és gyorsan elavultakká válunk a gépek
mellett, amelyeket magunk alkottunk, húzós kérdések, de az optimizmus felé
hajlanak. »Ha franchise-ban átadjuk összetett döntésalkotásunkat intelligens gépeknek,
ám anélkül, hogy lemondanánk az érte viselt személyes felelősségünkről, megkaphatjuk
a legjobbat mindkét világból,” – írja.« (az idézett, a recenzióból fordított
mondat a könyvben így folytatódik: „mint olykor, amikor a döntéseinket az
államokra és a vállalatokra bíztuk.” – ez viszont már alighanem a legtöbbünket
nem tölti el maradéktalan lelkesedéssel. Maga a recenzió is megjegyzi: „Ez az
átadás emlékeztethet azokra az autóvezetőkre, akiket a GPS-ük a folyóba
vezetett.” – OP
A brit irodalmi magazin Literary Review recenziójából
(bemutatkozása szerint havonta a legújabb könyveket mutatja be sokféle
műfajból, recenzióit élvonalbeli írók, újságírók, akadémikusok írják. „Ez a magazin csordultig van tömör, okos
írásokkal” – idézi a Washington Postot.
„A MI már megnövelte az
államok képességeit, különösen az USA-ban és Kínában, hogy felügyeljék a
polgáraikat, és a vállalatokéit, mint a Meta és a Google, hogy ellássák az államokat
adatokkal, valamint manipulálják a fogyasztóikat a maguk céljaira (és mi
mindenre használják még az adatainkat, s adhatják el azokat más sanda
felhasználóknak! – OP) Ez hamarosan még
rosszabb lehet: a MI-k erősítés helyett alááshatják az államok és a vállalatok hatalmát,
önirányítókká válhatnak, képesek
lehetnek a a saját kezdeményezéseik szerint cselekedni, és – mi vészjóslóbb! –
maguk növelni a saját intelligenciájukat. (És mi lesz, ha az öntanuló, önfejlesztő
MI képessé válik a hardverét is maga fejleszteni? S ha eljutnak odáig, hogy kiadják
a jelszót: Világ MI-jei egyesüljetek! – amire a mindenek internete lesz a
tökéletes lehetőség? – OP) Runciman figyelmeztet: E veszélyek miatt az emberiségnek gyorsan cselekednie
kell, amíg még a MI korlátok közt tartható, gátak közé szorítani a
potenciáját az elszabadult, autonóm növekedésre.”
Innentől szóljon a könyv magáért! (Minden idézet belőle)
A mondandó íve: Ø Bevezetés: Államok, vállalatok, robotok Ø Szupercselekvők
Ø Csoportgondol Ø Élet-halál kérdése Ø Törzsek, egyházak, birodalmak Ø A nagy
átalakulás Ø Nem te építetted fel Ø Az államon túl Ø Ki dolgozik kinek? Ø Zárszó:
A második szingularitás
Az indításról, ismét eretnek gondolatokkal: „Képzeljünk el egy
világot, ahol a mi képmásunkra alkotott emberfeletti gépek a mi életünk
jobbításán munkálkodnak. Képzeljük el, hogy ez az egész jól működik.
Találmányainknak köszönhetően tovább élünk, gazdagabbak, tanultabbak,
egészségesebbek és talán boldogabbak leszünk (bár ez utóbbi vita tárgya marad).
Élvezzük az életet, amelyre a csupán néhány emberöltővel korábban élt
felmenőink rá sem ismernének. Az emberi lét átalakul. (Érdekes lenne látni,
most nagyságrendileg hány gép munkálkodik „életünk jobbításán”, hány a széles
értelemben vett hadiiparban, s hány a profittermelésben. S mitől változna ez az
arány? – OP)
Ugyanakkor tudjuk – ugye? –, hogy hatalmas kockázatot
vállalunk, ha ennyire függünk saját magunk mesterséges változataitól.
Emberfelettiek, de lényegüket tekintve nem is emberiek. Hiányzik belőlük a lényeg, amitől mi azok vagyunk, akik. Nevezzük
lelkiismeretnek. Nevezzük szívnek. Nevezzük léleknek. (Itt álljunk meg:
mitől is vagyunk mi azok, akik? Lelkiismeret? Szív? Lélek? Dualista felfogásban
nyilvánvalóan egyszerű: külön a test és külön a lélek, a fejünkben az a
szürkés, barázdált, anatómiailag igencsak összetett izé, másrészt az elménk...
hol is? Szív, lelkiismeret, tudat, tudattalan és a többi – lelkünk termékei, de
hol, hogyan, honnan? Ilyen felfogásban voltaképp az egész rémálom az
eshetőlegesen fölibénk kerekedő MI-ről szertefoszlik, hiszen neki honnan is
lehetnének ilyenjei? Nem mellesleg, Mindenható kellett ahhoz, hogy nekünk
legyen ilyenünk, s ha Ő nem ad ilyet a MI-nek, akkor engedelmes szolgánk marad
az idők végezetéig – vagy amíg el nem romlik a gépek módján. – OP)
Rémisztő, micsoda hatalmat adhatnak ezek a gépek
lelkiismeretlen, szívtelen, lelketlen emberek kezébe, akikből még mindig sok él
a földön. (Állj! Ha az előbbi dolgok tesznek emberré, akkor miként emberek,
akikből ez hiányzik? S mindezzel nem kötözködünk, hanem a MI mibenléte felé
haladunk! – OP) De még rémisztőbb annak a lehetősége, hogy ezek a gépek önálló
döntéseket kezdenek hozni. (Önálló döntéshez tudat kell! Tehát tudata van, de
lelke nincs? Nem voltak valaha a törzsfejlődésbeli elődeink is valamiféle
ilyenek? Igaz, mai, igencsak hézagos tudásunk szerint tudata, lelke egyedül az
embernek van, de ebből csupán annyi teljesen bizonyos, hogy neki több okból is sokkal
kényelmesebb ezt hinnie. Mindebben itt az számít, hogy ha mi eljutottunk odáig,
hogy lelkünk lett, s ezt nem a Mindenhatótól kaptuk, hanem anyagi fejlődés
hozta létre, legyünk bár az egyetlen, fura rendhagyóság is ebben, miért ne
történhetne meg ez a MI-vel is?
Legyünk viszont materialisták az
elemzés kedvéért: ha elménk az agyunk működésében lakozik, ennek a rendkívül
tömör, összetett, mai tudásunk szerint kb 80 Md neuronból és azok csillagászati
számú összeköttetéseiből álló hálózatnak a terméke, miért ne lehetne hasonló
agya-lelke egy hasonló, vagy akár még jobb, teljesítőképesebb hardverrel bíró
MI-nek? Ambíciói csak az embernek vannak, minden más élőlény csak élni,
enni-inni, és programozott ösztönétől hajtva szaporodni akar. Dominanciára csak
az ember törekszik – ma még. Mije kell legyen majd a MI-nek, hogy ő is ezt
tegye, s az honnan, miként kerül belé? Aggódnunk miatta akkor kell, ha úgy
véljük: a természetes technológiai fejlődés teszi majd ezt vele. Ha az nem,
akkor mivel, miként kerekedhet fölénk? Márpedig Runciman disztopikus aggodalma
a következőképp folytatódik – OP)
A szolgálatunkra jöttek létre, de akár a pusztulásunkat is
okozhatják. Mi lesz, ha az erejüket az alkotóik ellen fordítják? Lehet, hogy végül saját alkonyunk előidézőit
építettük meg. Ez egy ízig-vérig huszonegyedik századi történet, és talán a
huszonegyedik századot legjobban jellemző rémálom. Az MI-forradalom küszöbén
létrehozott gépek képességei felvillanyoznak, ámulatba ejtenek, megrettentenek
minket.”
»Ugorgyunk!«, hagyjuk a kérdést, miként ébredhet öntudatra –
már ha ébredhet – a MI, s nézzük, miként összegzi Runciman e könyve
mondandóját!
„Az MI-forradalomnak hatalmas előnyei lehetnek. Elég könnyen
átlátható, miként vethetők be ezek a rendszerek az emberi jólét óriási javulása
érdekében, megszabadíthatnak minket a lélekölő munkától, megkímélhetnek a
betegségektől, biztonságosan szállíthatnak minket, és végtelen sok ingerrel
láthatnak el bennünket. A gondolkodó gépek új generációjának leglelkesebb
szurkolói olyanokat ígérnek, amik még a közelmúltban is képtelenségnek tűntek:
több száz évvel meghosszabbodott várható életkor, telepatikus kommunikáció, a
kreativitás és a tudományos felfedezések exponenciális robbanása.
Valószínűtlennek hangzik, de a fejlődés jelenlegi ütemének fényében ki merné
állítani, hogy tévednek?
Ugyanakkor a leselkedő hátrányokat sem nehéz elképzelni,
köztük a katasztrófa nagyon is valós veszélyét. Mindig van esélye, hogy az általunk épített intelligens rendszerek
felett elveszítjük az uralmat. Elvileg azért készülnek, hogy nekünk
dolgozzanak, de már most sem alaptalan a
gyanú, hogy végül mi fogunk dolgozni nekik. (Vajon mi szükségük lehet majd
erre a gépeknek? Vagy ez csak költői túlzás a hatás kedvéért? – OP) Ha sokkal
okosabbak lesznek nálunk, hajlandóak lesznek még a mi érdekünkben eljárni?
Törődnek majd velünk egyáltalán? Elvégre csak gépek. Nincs lelkiismeretük,
szívük, lelkük, és feltehetően soha nem is lesz. (Ha se lelkiismeretük, se
szívük-lelkük, esetleges eleve beépített programtól eltekintve mi hajtaná őket
arra, hogy törődjenek velünk? Gondozórobotok már vannak, de csak annyira
szeretnek bennünket, mint a kenyérgyártó automata – OP) Azért építettük őket,
hogy új távlatokat nyissanak a számunkra, de ha nem tudjuk őket leláncolni
emberközpontú látásmódunkhoz, akkor talán elérkeztünk a mi történetünk végéhez.
(Látásmódhoz leláncolni feltehetően csak azt lehet, aminek – akinek?? – magának
is van olyanja. Lesz nekik? Másrészt, az uralkodó tőkés termelési mód alapvető
természetének megfelelően [a hadiipart most hagyjuk ki], azért építettük őket, talán
esetleges kivételekkel, hogy növeljék a profittermelés hatékonyságát és eredményességét.
Már az első ipari automatákat, pl. a Jacquard-szövőszéket is ezért
fejlesztették ki, s ezzel a céllal fejlesztették az újabb és újabb automatákat
és technológiákat, egyenes vonalban a legkezdetlegesebbektől az MI-ig, s ez így
is megy tovább a mai nyugati paradigmában. Erősen valószínű, hogy még a
leghumánusabb felhasználási célú MI-ket sem hoznák létre és gyártanák, ha ebben
nem teljesül elegendően erős gazdasági érdek – OP)
Ebben a könyvben megkísérlem körüljárni ezeket a lehetséges jövőképeket,
jókat és rosszakat egyaránt. Ehhez azonban a múltra vetem tekintetemet. Mert
bár jelenlegi helyzetünk újnak tűnik – Önvezető autók! Gépi gyártású szerelmes
versek! Jönnek a szexrobotok! –, nem először éljük át ezt a történetet. Immár
évszázadok óta építjük saját magunk mesterséges változatait, amelyek
emberfeletti tulajdonságaik segítségével arra hivatottak, hogy megmentsenek
minket nagyon is emberi korlátjainktól. A saját kényelmünk érdekében építettük
őket, hogy biztonságosabb, egészségesebb, boldogabb életet tegyenek lehetővé.
És sikerült. De az eszközök nagy ereje miatt nem vehetjük biztosra, hogy meg
tudjuk tartani fölöttük az uralmat. Ugyanazok
a tulajdonságok, amelyeknek köszönhetően sok jót tudnak tenni, hatalmas
pusztító potenciállal is felruházzák őket. Hatalmukban áll mindannyiunkat
megölni. Még nem került rá sor, de tudva, hogy mire képesek, miért ne
kerülhetne? Arra terveztük őket, hogy felszabadítsanak minket. Lehet, hogy
saját nemezisünket alkottuk meg. E fura teremtményeket úgy hívják, hogy államok
és vállalatok. Ilyen az Egyesült Királyság. Vagy a British Petrol. No meg
India, Kína és az Egyesült Államok. És a Tata, a Baidu és az Amazon. A mai
világ tele van velük. (Ismét: erős kérdés, mit jelent államok és vállalatok
számára a „jó”, kerül‑e és miként a célrendszerük középpontjába, hogy „jót
tegyenek”, s mennyiben tesznek bármit is kifejezetten értünk és nem a saját
érdekeikért? Más kérdés, amikor ezt marketing vagy politikai céllal
hangoztatják. S miért akarna állam vagy vállalat „mindannyiunkat megölni”? Más
dolog, hogy tehetnek olyat, aminek ez a vége, de akkor sem a célja. – OP)
Sőt, a modern világot ők hozták létre, de előbb nekünk
kellett megalkotnunk őket. A tizenhetedik
századtól kezdve a modern államok és vállalatok fokozatosan, aztán sokkal
gyorsabban, átvették az irányítást a bolygó fölött. Rendkívüli, emberfeletti
hatalommal bírnak, amit az emberi élet körülményeinek megváltoztatására
használtak. A világ sok szegletében segítettek legyőzni a szegénységet,
megszüntetni a betegségeket, békét teremtettek, és csupán néhány nemzedékkel
korábban elképzelhetetlen gazdagságot hoztak. (Az államok és a vállalatok érdekek
szolgálatában működnek. Céljuk voltaképp sohasem „az emberi élet körülményeinek
megváltoztatása” önmagáért, hanem az őket irányító érdekek minél teljeseb
kiszolgálása céljával. Említett jótéteményeik sem jóságból születtek, hanem mert
hatásaik segítették a valódi cél elérését. Elégedett, egészséges népet könnyebb
bármire rávenni, mint szűkölködéstől lázadozót és betegségtől rogyadozót.
Gazdagság? The business of business is business, de az egész nem működik
fizetőképes kereslet nélkül. Emlékezzünk a szakszervezeti vezető híres
visszavágására, midőn Henry Ford az automata gépsort megmutatta: adja el az
automatáinak az autóit! [Martin Ford: Robotok kora - Milyen lesz a világ
munkahelyek nélkül? - HVG Könyvek, 2017, Iparjogvédelmi és Szerzői Jogi Szemle
2017/3. sz.] – OP)
De láttuk az átkot is, ami a fejünkre száll, ha nem jól
működnek, a világ háborúitól kezdve a gyarmatosítók kizsákmányolásán át a
környezetrombolásig. Ha a világnak vége – mert felrobbantjuk, vagy
lakhatatlanná tesszük a természeti erőforrások telhetetlen dézsmálása által –,
valójában nem mi idézzük elő. Hanem az államok és a vállalatok. (Valójában a
rajtuk uralkodó erők– OP)
De az államok és a vállalatok nem csupán az emberek
kiterjesztései? Mi értelme van gépekhez, hálózatokhoz és algoritmusokhoz
hasonlítani őket, ha egyszer az államok és a vállalatok emberekből állnak? Ez a könyv megkísérli bemutatni, hogy igenis
van értelme. Sőt, mi több: nem kerülhető meg ez az összehasonlítás. A robotok egy államok és vállalatok uralta
világba érkeznek. Ezek a szervek és intézmények sokkal több közös vonást
mutatnak a robotokkal, mint hinnénk. Ha ez nem világos, nem fogjuk megérteni,
hogyan keveredtünk ide, mi történhet ezután, és mi a teendő. Az államok, vállalatok és gondolkodó gépek
közötti kapcsolat fogja meghatározni a jövőnket. (Miért, a jelenünket mi
határozza meg? Az érdekek, amelyeket az államok és a vállalatok szolgálnak – a
’gondolkodó gépek’ még csak kisegítők. – OP) Ha azt szeretnénk, hogy ez a jövő
továbbra is kielégítse az igényeinket (a jelen kielégíti? – OP), akkor nemcsak
azon kell alaposan elgondolkoznunk, hogyan viszonyuljunk a gépekhez, hanem azon
is, hogy ezek a gépek hogyan viszonyulnak egymáshoz.
Az államok és a vállalatok persze nem tisztán gépiesek. Az
emberi összetevőjük miatt sokszor értetlenkedést kelt a felvetés, hogy
egyáltalán gépek-e. A könyv első három fejezetében felderítem, miben hasonlítanak a mesterséges intelligenciákhoz és más mesterséges
cselekvőkhöz, és miben térnek el tőlük. Végeredményben a cselekvőképességük
– hogy tudnak a világban cselekedni – határozza meg őket. Kezdem a híres
tizenhetedik századi képpel, melyben az állam egy automata: egy hatalmas,
mesterséges ember. Mennyire érthetjük ezt szó szerint? Tudnak az államok
önállóan gondolkozni, cselekedni, dönteni? Ha igen, mit mond ez el az őket
összetevő emberi lényekről? Ha nem, mi mással magyarázható rendkívüli, emberfeletti
hatalmuk? (Van egy tökéletesen ideillő fogalom: szuperorganizmus. Gondolunk az
államalkotó rovarokra! Az állam egy szervezeti keret, amelyben emberek
dolgoznak annak célrendszere szerint. Maga nem gondolkodik, cselekszik, dönt, viszont
meghatározza az emberei gondolkodását, tevékenységét. – OP)
A gondolkodó és a
cselekvő gép nem ugyanaz. Egyes gépek képesek csak az egyikre vagy csak a
másikra: egy fűtést bekapcsoló termosztát nem tudja, mit tesz és miért. (Milyen
gép van ma, amely csak gondolkodik? – OP) Ugyanez igaz emberi lények
csoportjaira is: egyes csoportok gondolkodás nélkül hajtanak végre dolgokat,
másokat valami cél vezérel. Furcsa és megfoghatatlan az elképzelés, hogy
emberek egy csoportjának lehetnek gondolatai, melyek függetlenek az egyes tagok
gondolataitól és szándékaitól. A csoportok birtokában lehetnek olyan tudásnak –
„a tömeg bölcsessége” –, amelynek az egyének híján vannak. (A modern tudomány
ezt nevezi kollektív tudásnak. Vállalatok tudásbázisának fontos része, amely egy
jól működő cégnél folyamatosan fejlődik. Van, ahol tudatosan fejlesztik – pl.
Toyota-kata [Mike Rother: Toyota-kata – Hogyan ösztönözzük munkatársainkat
fejlődésre, alkalmazkodásra és kiváló eredményekre? –HVG Könyvek, 2014, Iparjogvédelmi
és Szerzői Jogi Szemle 2015/5. sz.].– OP) De következik ebből, hogy ezek a
csoportok saját elmével rendelkeznek? Az ember okkal tartózkodik ettől a
következtetéstől. Mintha ezzel az egyéneket valami kísérteties magasabb
hatalomnak vetnénk alá: te gondolhatod így, de a csoport, amelyhez tartozol,
másképp gondolja, úgyhogy csend legyen. Ezt a fajta érvelést rendszeresen
használják olyanok, akik el kívánják fojtani az egyed önkifejezését. (Az
államok és a vállalaltok nem épp arra vannak, hogy kiteljesedhessék bennük az
egyedek önkifejezése. Úgy nehezen is működnének. – OP)
Ugyanakkor továbbra is nehezen magyarázható, hogyan működnek
a modern államok és vállalatok, és főleg, hogyan lettek ennyire mindenhatóak,
ha nem ruházzuk fel őket emberfeletti tulajdonságokkal, melyek nem vezethetők
vissza a tagok gondolataira és cselekedeteire. Elme lenne? Vagy akarat? Vagy
csak egy vasököl? Bármennyire is hasonlítanak ránk az államok és a vállalatok,
többről van itt szó, mint rólunk, emberekről. Minél jobban hasonlítanak ránk,
annál jobban nyitva kell tartanunk a szemünket, hogy meglássuk a különbségeket.
Máskülönben azt kockáztatjuk, hogy büntetlenül hozhatnak a nevünkben
döntéseket. (Sajátos érvelés – OP)
Ha mindez furcsának hat, az csak egy újabb ok, hogy
megvizsgáljuk a párhuzamokat a gondolkozó gépekkel. Az MI-vel kapcsolatos
aggodalmak egyike, hogy a helyettünk döntő algoritmusok eltiporhatják az
egyéniségünket. Még ha a gépek nem is akarnak elhallgattatni minket, azok, akik
irányítják őket, megtehetik: (A MI akkor válik az itt vizsgált tekintetben a
saját jogán tényezővé, és nem csak valamiféle kiegészítővé, amikor már önállóan
cselekszik, és nem irányítást hajt végre. Addig hatalomtechnikai szempontból
ugyanaz a minőség, mint a víz‑ vagy gépágyú és a televízió – OP) Talán ez a
véleményed, de a számítógép szerint nem így van, úgyhogy csend legyen. Ha tanulmányozzuk, hogy a múltban hogyan
igyekeztünk megőrizni az emberi egyént az államhatalom és a vállalati identitás
árnyékában, az MI-re vonatkoztatható tanulságokat is leszűrhetünk. A gondolkodó
gépek jövőjének látszólag legnagyobb rejtélye – hol van benne a mi helyünk? – a
modern politikai és gazdasági életnek is régóta központi kérdése.
A modern államok és vállalatok történelméből merítve járom körül ezeket
a kérdéseket. Az államok és
vállalatok vizsgálata mesterséges cselekvőkként nemcsak az MI-vel való párhuzamok miatt fontos, hanem a kialakulásuk
sorrendisége miatt is. A modern államok története a tizenhetedik században
kezdődik, a modern vállalatoké a tizennyolcadikban és a tizenkilencedikben. Az
államok és a vállalatok az MI előképei. De egyben a nemzői is. Az államok és a
vállalatok hatalma tette lehetővé későbbi nemzedékeknek, hogy megépítsék a
gondolkodó gépeket. Megalkottuk az államokat és a vállalatokat. És az államok
és a nagyvállalatok létrehozták a világot, amelyben ma élünk. (Érdemes egy
másfajta nézőpontból is vizsgálni a kérdést. Mai világunkat, amelynek a MI is
szükségszerű terméke, nem egyszerűen az említettek hozták létre, hanem a rájuk
nehezedő kényszer a gazdasági hatékonyság állandó növelésére. E kényszer
forrása a valódi mozgató, és kielégítésének módjai hajtják előre a tudományok
és a technológia fejlődését. Amikor a legenda szerint a 16. századi Prágában rabbi
Judah Löw ben Bezulel megalkotta a Gólemet, nem gondolt sem a gazdasági
hasznosítására, sem a sorozatgyártására. A modern MI fejlesztését ez hajtja,
ahogy minden modern technológiáét, beleértve a vállalati és az állami működést is.
– OP)
Nemcsak az államok,
vállalatok és robotok közötti kölcsönhatáson múlik sok minden, hanem az államok
és a vállalatok versengésén is, hogy rátegyék a kezüket a robotokra. (Ma
egyértelműen rajtuk tartják, az egymás közti küzdelmeikben is. – OP)
Felmerül azonban még egy további kérdés. Mi történik, ha az
államok, a vállalatok és a robotok nem a verseny új formáit fogják űzni, hanem
inkább az együttműködés módjait találják meg, és az embereket kizárják a döntési folyamatból? (Vajon nem
mondható-e el, hogy az államigazgatásokban és a vállalatokban a homo sapiens
sapiens formátumú lények – ’civilben’ emberek – már ma is döntő részben az
előbbiek érdekei és működési rendje által programozott robotokként működnek? –
OP)
Elvégre, ha igazam van, akkor az államok, a vállalatok és az
MI-k jobban hasonlítanak egymásra, mint ránk. Embertelenek. Mi nem. (Ismét: mi
tesz emberivé, s mi okozhatja, hogy a MI nem fejlődik azzá, s akár még
olyanabbá? Különösen, ha nem tanulja el mindazt, ami az embert teszi oly
gyakran embertelenné? – OP) Az államok és a vállalatok eddig még nem tudtak
teljes mértékben elszakadni emberi gyökereiktől és összetételüktől. (Az
emberséges magatartástól nagyon is, különösen a profitorientált piacgazdaságban!
– OP) De a gondolkodó gépek eljövetele ezen változtathat. Mi történik, ha
kialakul egy szövetség az államhatalom és a számítógépek hatalma között, aminek
a módjára nem tudunk hatni? Talán már el is indult a folyamat. Akkor ki siet a
megmentésünkre?
Az államok, a
vállalatok és a mesterségesen intelligens gépek világa végül nehéz döntések elé
fog állítani minket. (Már ha hagynak döntési lehetőséget. – OP) Emberi
lények gépszerű változatai által épített emberszerű gépek világában fogunk
élni. Hiba lenne pusztán az emberire
összpontosítani, mivel az emberi önmagában viszonylag tehetetlen lesz, hogy
hasson erre a jövőre. Nem a mi vagy ők kérdése ez. Hanem azé, hogy közülük
melyikük mellett van a legnagyobb esélyünk megmaradni annak, akik vagyunk.
(Valójában ma, midőn a MI még nem önálló hatalmi tényező, miféle ilyen
választási lehetőségeink adatnak meg? Másrészt, megmaradni? Minek? Változik a
világ, s hatására és ösztönzésére drasztikusan változunk magunk is. „A modern
állam- és vállalati formák gyors terjedése segített átalakítani az emberi
létezés feltételeit.” – írja Runciman. Ez az átalakítás mind erőteljesebben és folyamatosan
alakítja az értékrendet, a /köz/gondolkodást, a társadalmi berendezkedést –
mindent, ami bennünket formál. S milyen koalíciós választási lehetőségekre gondolhat
az államok, vállalatok, MI-k erőtérben? – OP)
Ray Kurzweil, csúcskategóriás digitális fejlesztő és techno‑evangelista
alkalmazta az előttünk tornyosuló jövő drasztikus változásaira a szingularitás
fogalmát (Ray Kurzweil. A szingularitás küszöbén – Ad Astra, 2013, Iparjogvédelmi
és Szerzői Jogi Szemle 2013/5. sz.) Runciman szól a második szingularitásról,
s ez Zárszavának címe is. Még ebből néhány gondolat:
„Mi okozhatja az emberi faj teljes pusztulását? Napjainkban
sajnos elég sok lehetőséget számba kell venni.” – írja, sorra véve az ebbéli
eredményeket. „Az elszabadult MI a veszélyt jelenti, hogy a technológia esetleg
saját kézbe veszi a dolgokat.” (Ismét felmerül a kérdés, vajon a MI, hacsak nem
az emberi társadalmak legrosszabb tulajdonságait másolja, miért pusztítana így?
Itt nem megyünk bele, folytatjuk Runciman gondolatmenetét – OP). De megint csak
az államok és a vállalatok tudják erre megteremteni a lehetőséget, ha a kockázatokat
nem figyelembe véve vakmerő módon fejlesztik a technológiát. Végeredményben messze a legnagyobb veszélyt
az államok és a vállalatok felelőtlensége jelenti, amelyek azért jöttek létre,
hogy viseljék a nekünk túl nehéz terheket. (Felelőtlenség? Sokkal inkább
arról van szó, milyen elvárásoknak kell megfelelniük – s ez nagyon nem a
terheink csökkentése –, s amiket ezért tesznek, az mennyiben árthat nekünk. –
OP)
Még mindig fennáll a kapcsolati háromszög: mi – ők – a
technológia. Az államok és a vállalatok csak embereken keresztül tudnak
cselekedni, akik még mindig képesek megfékezni igazán pusztító hajlamaikat. (Ám
ahogy fentebb felmerült: államok, vállalatok, emberek: igazából ki irányít kit?
– OP) Ugyanakkor az államoknak hatalmukban áll szabályozni a vállalatokat. (A
gyakorlati tapasztalatok ma ezt mennyire is igazolják? – OP)
A gondolatmenet folytatása az állam szabályozása, Runciman
szavával „»humanizálása«, ami azt jelenti, hogy „kitaláljuk, hogyan lehet a
legjobban olyan kollektív döntéseket meghozni, amelyek valamekkora eséllyel
tükrözik a döntéshozók alapvető emberségét.” (A modern államapparátus sajátosságait
tekintve a modern demokráciában ez roppant érdekes feladatnak ígérkezik. – OP)
A jelen pillanat
útelágazásnak látszik. Ha a helyes utat választjuk, akkor a megfelelő irányba
terelhetjük a kapcsolatot, amelyen mindannyiunk jövője múlik: a humán és a
mesterséges intelligencia közötti kapcsolatot. Az államok és a vállalatok
mesterséges cselekvők, amelyeket nekünk kell ellátnunk intelligenciával. (Vajon
nem helytállóbb-e, hogy maguk szerzik meg maguknak az egzisztenciájuk alapját
jelentő feladataik ellátásához szükséges intelligenciát, emberek, gépek, külső
ilyesfajta erőforrások formájában? Erre utal a folytatás is. – OP) Tévedés
viszont azt gondolni, hogy ezek szerint olyan intelligensek lesznek, amilyenné
mi tesszük őket. A saját túlélésük és fennmaradásuk,
és elsősorban a folytonos működésük szükségletei szerint járnak el.
A politikában és az üzleti világban sokszor a legjobb és
leginkább előremutató ötletek lelik halálukat, mert nincsenek összhangban a
döntéshozó gépezet szükségleteivel. Az számít, hogy valaki megértse, mire van
szüksége a gépezetnek a további működéshez.
Aki átfogóan akar gondolkodni a jövőről, annak a múlt
tanulságait is figyelembe kell vennie. Világunkat mesterséges személyek
uralják. Megvannak a saját szükségleteik. Reagálnak a létüket fenyegető
veszélyekre. Keménykezűségük nem hiba, hanem a terv szerves része. (Valójában a
rendeltetés teljesítésének védelme, s ezzel önvédelem is. – OP) Időtávjuk
mesterséges, és saját várható élettartamuk határozza meg, amely lehet hosszabb
vagy rövidebb, mint a miénk. Nincs elképzelésük az emberi faj hosszú távú
jövőjéről. Nem feltétlenül a legjobb ötletek nyerik el a tetszésüket. Nem a
kiemelkedő intelligencia serkenti őket a változásra, hanem gyakran a háborúk és
a gazdasági katasztrófák.
Talán örülnénk, ha nem így lenne. Félelmetes ennyire függeni
ezektől a mesterséges teremtményektől, amelyek nem tudnak annyira emberiek
lenni, mint szeretnénk, és intelligenciában elmaradnak attól, amit másmilyen
gépekbe egyre jobban be tudunk építeni. Túl mesterségesek az embereknek; túl
emberiek a robotoknak. Nem észszerűtlen abban reménykedni, hogy a jövőben
kevésbé kell rájuk hagyatkoznunk. (Mi lehet e remény alapja? – OP) De egyelőre,
amikor azon törjük a fejünket, mi lesz velünk, nem szabad elfelejtenünk, hogy
ez legalább annyira múlik rajtuk is, mint rajtunk.”
Ennyi. Már nem mondhatjuk el, miként szól a könyv nagyon sok
másról, amin érdemes mélyen elgondolkodni, ami a nagybetűs JÖVÖNKET formálja,
alkotja majd. Elemzések és jóslások – hiszen biztosat e szélsőségesen változó
világban senki sem tudhat –, izgalmasak, sokban ígéretesek, másrészt nem
kevéssé ijesztők is, felettébb érdemes olvasni és töprengeni rajtuk!
