Mindkét oldalán pengeéles a mesterséges intelligencia (MI) fegyvere. Okosan automatizált digitális rendszereinkben a korábbi “kézi” munka dandárját ma már gépi intelligencia végzi. Ugyanez az eszköz képes drónháborút vívni, kiborgokat “szülni”, vagy kedvenc AI-asszisztensük hangján tömegek életét reklámozók szándéka szerint irányítani. Végső soron akár a klímakatasztrófa elkerülésében is kulcsszerepe lehet.
Dr. Tilesch György globális mesterségesintelligencia-szakértő ennél árnyaltabban látja a jelenség jelenét és jövőjét, erről adott a Számlázz.hu PARK-nak exluzív interjút. Tilesch a PHI Institute for Augmented Intelligence alapító elnöke, tíz éve él Amerikában, minden kontinensen dolgozott már a világ vállalatainak és kormányainak vezetőivel (köztük a Microsoft, az EU, a Fehér Ház, a Világgazdasági Fórum, az Ipsos, a Club de Madrid és számos nemzeti kormány). Idén jelent meg magyarul Mesterség és intelligencia címen Omar Hatamleh, a NASA innovációért felelős volt főnökével írt könyve, ennek kapcsán kértük fel a beszélgetésre.
Számlázz.hu PARK: Miben képvisel radikálisan új típusú átalakító erőt a mesterséges intelligencia, például a “sima” digitális technológiákhoz képest, melyek szintén totális átalakulást hoztak és hoznak a teljes emberiség számára?
Tilesch György: Van egy nagy probléma a világban, méghozzá az, hogy a mesterséges intelligencia exponencialitására nem vagyunk felkészülve. Az emberi agy természetes korlátai miatt mindent, ami exponenciális, megpróbál beleszuszakolni olyan kategóriákba, amiket ismer. Ezért dominálnak még mindig olyan kifejezések, mint “a negyedik ipari forradalom” kifejezés is, ami túlhangsúlyozza a ciklikusságot. Teljesen újfajta hozzáállás szükséges a mesterséges intelligencia kezeléséhez, ugyanis ez nem csupán technológia. Van technológiai gyökere, de messze túlterjeszkedik azon: ott válik le minden korábbi jelenségről, hogy intelligenciát hozunk létre, ami nagyon nagy különbség. Ha mindenáron “sci-fiben” akarok beszélni, akkor egy új fajt alkothatunk. Az AI (artificial intelligence, azaz mesterséges intelligencia) jelenlegi, primitív formájában már most is az a legnagyobb probléma, hogy össze kellene egyeztetni az emberi értékekkel, az emberi gondolkodási modellekkel, és a jelen pillanatban ez nagyon nincs így.
PARK: Abban látod a veszélyét, hogy nem tartjuk a kezünkben, nincsen valódi szabályozás, és nem létezik “központi akarat”, ami irányban tartaná?
T. Gy: Amikor arról kérdeznek, hogy mennyire intelligens az AI, azt szoktam mondani, hogy most ne azzal foglalkozz, hogy mennyire intelligens, hanem azzal, hogy mennyire hatalmas: hogy mennyire képes befolyásolni az életedet már most, és hogy mennyire redukál téged adattá. Az emberi minőséget alapvetően képes támadni. Amellett, hogy milyen előnyei vannak (főleg gazdasági előnyei: produktivitásban, a hatékonyságban, az előrejelzésben, az analízisben), szerintem az első hullámán már túl is vagyunk annak, ahogyan az emberi minőséget alapvetően redukálta. Az én misszióm, hogy ne az legyen a cél, hogy egy valamikor végül kontrollálhatatlan, embert túlszárnyaló intelligenciát hozzunk létre, mint a sci-fi-irodalomban és -filmekben, ahol állandóan az a téma, hogy mikor ébred fel a szuperintelligencia. Vannak nagy rendszerek a világban, amik az életünket, a munkánkat már mélyen áthatják. Az adataink ilyen-olyan szabályozással, de tulajdonképpen zabolátlanul száguldoznak és vannak kizsigerelve. Mi tulajdonképpen adatcsomagokká, adatprofilokká vagyunk változtatva, és ezt szinte semmilyen szabályozás nem képes kontrollálni. Ha lenne (és lesz) ilyen, akkor is csak viszonylag korlátozott lehetőségekkel létezne, hiszen nincs felkészülve arra, hogy exponenciálisan gyorsuló és változó technológiákat kontroll alatt tartson. Az EU létrehozott egy nem teljesen rossz szabályozást, ami társadalmi hatások alapján közelíti meg a kérdést, és ez szerintem üdvös dolog. De az exponenciálisan száguldozó technológiának újabb és újabb iterációi, vadhajtásai, mutánsai képesek megjelenni és piacra kerülni, a szabályozás pedig nem ugyanazt a sebességet, nem ugyanazt a piacosítási képességet képviseli, és ez nagyon súlyos probléma. Nem mindent bíznék ezért a szabályozásra, hanem leginkább a felelős polgárokon tartanám a szememet, akiknek meg kellene értenie a mesterséges intelligencia képességeit, és főleg azt, hogy milyen nyílt végű. Ez a leglényegesebb tulajdonsága, pontosan azért, mert intelligenciáról beszélünk. Az esszenciája, az eredője az, hogy a mesterségesen létrehozott intelligenciát kiterjesszük, vertikálisan és horizontálisan is: eljusson a világ legtávolabbi sarkaiba, és közben tanuljon, tanuljon, tanuljon, nagyobb és nagyobb autonómiát vegyen föl, ami az embert automatikusan lépéshátrányba teszi.
„Uralják az adatóceánt„
PARK: Amikor azt mondod, hogy az “emberek dolga”: pontosabban ki az az ember, aki tehet az AI kézben tartásáért, és mit tehetne érte?
T. Gy.: Aktivitás vagy cselekvőképesség tekintetében az “emberiség” mint olyan valójában fikció. A könyvet is azoknak írtuk, akiket úgy hívok, hogy “tájékozott digitális állampolgár” (informed digital citizens). Ezek az emberek – a munkájukon keresztül, egyénileg, vagy abban a befolyásolási zónában, amiben alkotnak – képesek olyan megértésre szert tenni és olyan hatást elérni, ami alapján társadalmi mozgalmak szervezhetők köré. A legnagyobb probléma, hogy most a víziónélküliség állapotában vagyunk, és a pusztán szabályozós logika is ennek a következménye.
PARK: Akár a szabályozástechnológiára is kihathat ez a probléma?
T. Gy.: Teljesen. Azok a MI-technológiák, amik a világban már kint vannak és alkotnak, nagyon kevés kézben összpontosulnak: nagyon magas a bejutási korlát ahhoz, hogy valaki robosztus mesterséges intelligenciát legyen képes fejleszteni. Nem várhatod el egy ágrólszakadt startuptól, hogy vezetői pozícióba kerüljön egy általa fejlesztett MI-algoritmus segítségével. Van egy olyan gazdasági vagy hatalomkoncentrációs szabály, ami szintén képes exponenciálisan gyorsulni. Kevesen kezdik el, kevesen szerzik meg a vezetői pozíciót, de az ő a kezükben még tovább fog koncentrálódni, pontosan amiatt, hogy uralják az adatóceánt és hogy az algoritmusaik képesek öntanulni, önfejleszteni. Egyre több és több adatot szippantanak magukba, amivel magukat optimalizálják, azzal pedig minket, embereket osztályoznak, felismernek, átlátnak, megtanulnak, vagy akár manipulálnak. Ez a fajta erőkoncentrációs tényező szerintem nagyon nem használ a világunknak, aminek éppen elég baja van már így is. Nagyon nem segít a most meglévő egyenlőtlenségen, világunk egyik kulcsproblémáján, és egyáltalán nem segít a világban már szerintem teljes mértékben elszabadult manipulatív technológiák problémakörén sem, hanem éppen “szteroidra rakja” az összes létező manipulatív technológiát.
Azt is el kell mondanunk, hogy ez egy kétélű fegyver. Szinte mindennek, amit eredményként vagy ígérvényként tudunk elkönyvelni, van egy árnyoldala, amit fej fej mellett kell tárgyalnunk a hatékonyságával. Például ha azt mondod, hogy kontent marketing, már most is csodálatos dolgokra képesek bizonyos “natural language generation” („természetes nyelv létrehozás”) algoritmusok: ha angolul írnád ezt a cikket, lehet, hogy 80%-ra meg tudná írni helyetted. Ezzel szembeállítható a kapitalizmus jelenlegi logikája, miszerint ha egyszeri befektetéssel, vagy alacsony előfizetési díjért a munka 80%-át ingyen meg tudja csinálni egy gép, akkor miért alkalmaznál kontent marketingeseket?
Arról a társadalmi hatásról még nem is beszéltem, hogy mi van akkor, ha a tartalomiparban annyira elburjánzik a MI által írott szöveg, hogy az lesz a norma? A menő streaming szolgáltatások, a Netflix, az Amazon Prime, akik saját kontentet is fejlesztenek, kőkeményen algoritmizált alapon döntik el, hogy a filmnek hányadik percében kell szexjelenetnek lenni ahhoz, hogy a legtöbben megnézzék. Ha megvizsgálod egy új film témaválasztását vagy a szinopszisát, annak minden egyes szavát és tényezőjét már egy MI által végzett kutatás döntötte el, amit a nézőkön végeztek el. De nem úgy, hogy megkérdezték őket kérdőíveken, hanem csak egy példát hozva pontosan látják sok millió júzeren, hogy melyik percben állítod le a filmet, ami alapján gépi tanulással nagyon jól meg lehet jósolni, hogy mi lesz a következő kasszasiker.
„Tudatosabban gondolkodni és élni„
PARK: Mit tehet az az átlagember, aki enyhe émelygést érez mindettől? Tegyük fel, hogy van egyfajta digitális affinitása, és hatása egy párszáz milliós költésre a maga körüli világban: ő hogyan használja, hogyan ne használtassa magát, és mit tegyen, hogy az emberek kezében maradjon a döntés?
T. Gy.: Hadd reagáljak először az első mondatodra: nagyon érdekes, hogy az emberi pszichében van egy ilyen émelygés-reakció, ezt angolul úgy hívják, hogy “uncanny valley” (magyarul kb. “hátborzongató völgy” vagy “rejtélyes völgy”, itt olvass róla többet – a szerk.). Akkor jött ez először elő, amikor a robotika elment abba az irányba, hogy emberit akar létrehozni: embernek kinézőt, emberi tapintásút, stb. Ezzel, és a MI sok alvonulatával vannak, és még sokkal inkább lesznek ilyen tömeges reakciók, hogy
“ez már nekem sok, túl szintetikus, a tartalom, amit a gép most az orrom alá rakott, legyen az film, vagy cikk, érzem, hogy nem természetes, és emiatt émelygek”.
És hogy mit tehet az ember? Egyedül gyakorlatilag azt teheti, hogy sokkal tudatosabban kezd gondolkodni és élni. A MI legkevésbé megénekelt része az a bizonyos manipuláció, ami nemcsak marketing. Szoktam mondani, hogy az a telefonjainkon lévő AI-asszisztens dolga, és afelé fejleszti őt a Google, az Apple, az Amazon, hogy nélkülözhetetlen társ legyen a mindennapjaidban. Ez azt jelenti, hogy tanácsokat fog neked adni, hogy mit csinálj, és emlékeztetni fog mindenfélére, úgy, hogy nem is te programoztad be erre. A kulcs az, hogy a cselekvésedből tanul, ami alapján ajánlásokat tesz arra nézve, hogy mit tegyél. Igen ám, csakhogy ezek mindegyike mögött reklám-alapú modellek állnak. Tehát az ajánlások mindig valamely reklámozó érdekeit fogják szolgálni, legyenek akár külső reklámozók, akik ezeket a platformokat használják, vagy legyen maga a gyártó, akinek érdeke, hogy minél több adatalapú tesztet hajtson végre rajtad. Így kideríti, mit is szeretnél valójában, vagy monitorozza a szokásaidat, ami alapján rájön, hogy mit lehet neked jobban eladni. A reklámozásalapú modellel nagyon nagy problémám van, és ha hagyjuk, hogy egyeduralkodó maradjon a világban, tehát ha egyenlőségjelet teszünk az AI consumer technology (fogyasztói fókuszú technológia) és a reklámmodellek között, akkor nagyon nagy bajban van az emberiség. Ha el kell gondolkodnod, hogy az AI-asszisztensed a te asszisztensed-e, vagy valaki másé, az egy nagyon nagy probléma. Ezért fontos, hogy mindenkinek a tudatossági szintjét, képességét a kritikai gondolkodásra, a szellemi védekezés falait fel tudjuk emelni, és “erre figyelmeztessük utastársainkat is”. Soak kérdezik, mi lesz a szellemileg védtelen gyerekeinkkel. A fiamat most írattam be egy olyan iskolába (ahova rajtam kívül is nagyon sok senior technológiai vezető járatja a gyerekeit), ahol 12 éves korig tilos a digitális eszköz, a képernyőhasználat. De ezeknél a családoknál ettől függetlenül is sok esetben kimondják, hogy “no telefon, no tablet, stb”. A mókás az, hogy ezek a felelős szülők azoknál a cégeknél dolgoznak felelős pozícióban, akik a technológiai termékeket előállítják.
Ebből kialakulhat a konklúzió, hogy minden, ami emberalapú szolgáltatás, az elit kezébe tömörül,és mindenki más, aki az adataival fizet, a széles tömegek, jelentős lépéshátrányba kerül, és manipulációs eszközzé képes válni. Simán látok egy olyan jövőt, ahol a tömegeket robotpincér, robot-autószerelő és robotmasszőr fogja kiszolgálni. Most abban a korszakban élünk, amikor még az elit kiváltsága, hogy ezeket megszerezze, de szerintem a jövőben megfordul a kocka, mert az elit tudja leginkább azt, hogy mi a magánéleti zóna, amit meg kell védenie az ellen, amit mellesleg teljes konfliktusban terjeszt ezzel a munkaköri kötelessége során. Neki marad meg minden, ami emberi, és a tömegeké lesz az automatizált, robotizált, algoritmizált megoldás.
Az AI-technológia tekintetében azt érzem, hogy mindenki, aki hozzáfér az adathoz, az algoritmusokhoz, aki új terméket képes ez alapján fejleszteni, tudja, hogy ez mekkora alkalom, és soha nem fogja elengedni, viszont a privát szféráját bevédi. Szóval van egy forgatókönyv, ami nem jó. De hogy mondjak jót is: a meglévő vízió esetén ebből rohadt jó dolgokat is lehet csinálni. Ez lehet a demokratikus államok polgárainak bevonása, tehát a “citizen deliberation” kiváló eszköze. Lehet a smart city (okos város) mozgalmak borzasztó erős motorja. Lehet motorja a klímaváltozásnak, az egészségügynek, az oktatásnak. Rendkívül nagy potenciál van benne, ami egy bizonyos morális sávra állítás után félelmetes eredményeket képes elérni. Csak ez a sáv még nem létezik igazán, mert jelen pillanatban a profitsáv és a manipulációs (ideértve a politikat is) sávok uralkodnak. Ez a legnagyobb baj. Persze kicsiben léteznek azok is, amiket említettem, csak még nagyon kicsiben.
„Hogyan szolgálja a civilizáció érdekeit„
PARK: Része a személyes küldetésednek, hogy átcsatornázd az AI-tudást ebbe az “értelmes” sávba?
T. Gy.: Én nagyon küldetés-orientált vagyok, és azt tekintem a missziómnak, hogy olyan globális műhelyeket hozzunk létre, amelyek alternatív technológiai csomagot képesek fejleszteni, ami ezt az általam megfogalmazott augmented intelligence (kiterjesztett intelligencia) víziót szolgálja. Tehát van az “artificial intelligence” vízió, amiről tulajdonképpen eddig beszélünk, amiben nagyon sok disztópikus elem, nagyon nagy veszélytényező található, és van a kiterjesztett intelligencia, ami “by design” (azaz szándékosan) abból indul ki, hogy a mesterséges intelligencia végcélja az emberi jólét és az emberi intelligencia kiterjesztése. Nem akar az emberrel versengő, minket kiváltó robotokat képezni, hanem azt állítja, hogy ez egy roppant robosztus technológia, ahol a Sarkcsillagunk, egyben az első védőrácsunk az kell, hogy legyen, hogy minden technológiát, mielőtt kifejlesztenénk, az alapján vizsgáljunk meg, hogy hogyan szolgálja az emberiség és a civilizáció érdekeit, ideértve az egyén jobbá válását, kiterjesztését is. Ez már sokkal komfortosabb kiindulópont, mint amikor azt mondjuk, hogy dolgozzon ezen a problémán a Google meg a Facebook, gazdagodjanak meg belőle ők meg egy csomó reklámozó, a politikum legyen ezt képest kampányok és társadalmi szétszakítás céljára használni, a hadsereg legyen képes erre hírszerzési és drónháborús terveket készíteni, és a végén ráaggatunk egy szabályozást, ami a legcsúnyábbakat lenyesegeti, megbünteti pénzzel, és ráönt egy kis “zöld” szószt.
Ha a mesterséges intelligenciából indulunk ki, és nem augmented intelligence-ből, akkor annak a veszélyei már nagyon erősen láthatók. Létezik egy nagyon komoly etikai, kockázati, impact-oldali problémakör, amivel sok ezren foglalkoznak a világban, köztük én is. Ezek nem vészmadarak, hanem azt mondják, hogy minden éremnek a másik oldalát is nézzük meg, mert akkor vagyunk képesek felelősségteljesen technológiákat fejleszteni, és a társadalomba adoptálni, ha annak minden részletét próbáljuk átlátni. Erre vannak nagy mozgalmak, csak sajnos még inkább az elitre korlátozódnak, de a jó hír az, hogy csomó “nagy-céges” ember is van benne, akiket személyesen ismerek, és ez alapján úgy gondolom, hogy nem veszett a fejsze nyele, hogy ott csak a profit jelenne meg, mint szándék. Tehát egyáltalán nincs lejátszva még ez a történet. Csak ha nem figyelünk eléggé a veszélyekre és kockázatokra, és kiengedjük a társadalmi irányítást a kezünkből, akkor könnyen az rabszolgáivá lehetünk. Akár egy orwelliánus rendszerben, mint mondjuk egy Kína, egy Oroszország, vagy éppen a huxley-ánus vad neokapitalizmusban, ami könnyen elképzelhető Amerikában, vagy Nyugat-Európában is. A missziónk az, hogy legyen alternatíva, a felelős polgár legyen képes választani. Ha azt mondja, hogy social network (közösségi háló), ne csak a Facebook legyen, vagy ne csak reklámozási modellek. Ha azt mondja, hogy üzenetküldés, akkor ne csak a Facebook, vagy az Apple, hanem legyenek úgynevezett közérdekű AI-technológiák is, amik egymással kompatibilisek, és képesek a társadalmi érdeket, vagy a közérdeket sokkal jobban szolgálni. Ez a misszióm, és az, hogy legyenek mögötte elmék, akik ezt képesek megálmodni, kitalálni és lefejleszteni.
PARK: “Azt remélik a szerzők, hogy még az is kiderülhet, mi rejlik az emberi tudatosságban”, írja a Qubit a könyved kapcsán. Miért fontos számodra, hogy kiderüljön, mi rejtőzik az emberi tudatban?
T. Gy.: A probléma az, amit egy picit az elején is érintettem, hogy az ún. statisztikai AI, ami a jelen pillanatban dominálja az AI technológiát (ilyen a mélytanulás, vagy a neurális hálózatok), egy nagyon reduktív hozzáállással próbálta modellezni az emberi gondolkodást, tudatot, az intelligenciafejlesztést. Lehet, hogy meg fog rám sértődni egy csomó “neuroscientist” (idegtudós), de közel sem tudunk mindent arról, hogy hogyan működik az emberi gondolkodás, a döntéshozatali mechanizmusaink. Ebből adódóan a profitéhség és a hatékonyság-hajhászás miatt olyan technológiák lettek meghatározóak, amik a reduktív megközelítést használják. Pontosan emiatt a kiterjesztett intelligencia tétel miatt, amit korábban mondtam, ezt meg kellene fordítani, és az embert nem redukálni, hanem felemelni kellene. A gépekre mint az emberi intelligencia kiegészítőire kell gondolnunk, és azokon a területeken, ahol az ember felemelhető, ott emeltessék fel, ahol meg nem, vagy túlságosan nagy áron, ott a gép legyen az ő segítője. A transzhumanisták például abból indulnak ki, hogy a gépi intelligencia szupremáciája (felülkerekedése) elkerülhetetlen, ergo akkor járunk a legjobban, ha behódolunk neki. Ami terjedhet odáig, hogy a Szilícium-völgyben már létezik egy AI-egyház, ami leborulva áldja az AI-istenséget, ami még ugye nincs, de azért jó előre elkezdtük imádni. A technológus-generációt viszonylag könnyű erre ráállítani. Vagy van a kiborg-imádat: kiborgizáljuk magunkat, építsünk be a fejünkbe linkeket, vágjuk le a kezünket, és tegyünk a helyére mechanikus kezet, persze ezt is fiktíve, mert még nem mainstream egyik sem. Sok embernek, aki úgy gondolja, hogy ettől okosabb, szebb, erősebb lesz, ezek vonzó történetek. Ezekkel szemben én végtelenül humanista vagyok, ami azt jelenti, hogy az egészet az ember kiterjesztésének célrendszerébe helyezem bele. Súlyos döntéseket kell hozni, például hogy a kiborgizációnak mik a természetes határai, hogy belefér-e az intelligencia kiterjesztésébe, hogy chipet teszünk az agyunkba vagy sem. Ezek sajnos egyre inkább a közeljövő kérdései. Summa summarum én azt szeretném, ha létrejönne egy olyan ideológia és egy olyan mozgalom, ami alulról szerveződve képes az “augmented intelligence” víziót elsődlegessé tenni a világban.
Érdekel a téma bővebben is?
Nézd meg a sztártudósokkal készült, Tilesch György által moderált beszélgetést:
Ismerd meg a jövőt: Future Talks powered by MVM!
by