A mesterséges intelligenciáról szóló filmek reneszánszukat élik, Elon Musk és társai egyre jobban aggódnak amiatt, hogy a modern technológia végül maga alá fogja gyűrni megalkotóit és még a legnépszerűbb AI tankönyv társszerzője Stuart Russel is nyílt levélben szólította fel a terület kutatóit hogy olyan rendszereken dolgozzanak, melyek működésében biztosak lehetünk és céljaik jók. Tényleg félnünk kell a mesterséges intelligenciától?
De mitől félünk?
Alapvetően két dologtól félnek azok akik szeretnek félni a mesterséges intelligenciától
- az algoritmusok vak működése során valahogy az ember válik a leggyengébb láncszemmé egy folyamatban, s ezért szenvtelenül úgy fog dönteni egy gép, hogy ki kell iktatni minket
- a gépek öntudatra kelnek és megalkotóik ellen fordulnak
Russel tkp. az első lehetőségre figyelmeztet minket (na jó, inkább kollégáit). A jó hír az, hogy kellő odafigyeléssel ez meg megoldható. De miért is kell erre odafigyelni? Manapság a legtöbb mesterséges intelligencia címkével ellátott rendszer a gépi tanulás paradigmájába tartozik. Lényegüket tekintve nem az emberi problémamegoldást próbálják utánozni, hanem előre nem definiált, nem "leprogramozható" feladatokat oldanak meg, olyanokat amelyek számunkra gyakran megoldhatatlanok. A legismertebb az időjárás előrejelzés, de ilyen lehet a jelenbecslés, vagy az orvosi diagnosztikában használt klasszifikációs eljárások. Az ilyen eljárásokon akár életek múlhatnak, de komplett lakóközösségek sorsát is meghatározhatja a manapság egyre divatosabb "predictive policing". Szerencsére ezen a téren egy rendes kutatásnak át kell mennie egy etikai szűrőn, továbbá a szoftverfejlesztésben bevett minőségellenőrzési praktikákra alapozott módszertannal figyelhetjük a kódokat és a statisztika felvértez minket az eredmények kiértékelésének lehetőségével. Ezért az első lehetőséget kipipálhatjuk azzal, hogy résen vagyunk, ha nem is tökéletes minden.
Mi a helyzet a második lehetőséggel? Ez egy általános, nem feladatspecifikus gépet feltételez, olyat, ami képes magának célokat kitűzni. Ma a piacon az általános problémamegoldásra a Google Deep Mind projektje pályázik, ami az Atari játékokkal már egész jól el tud lenni.
Vajon innen már csak egy lépés a Blade Runner Nexus 6 csoportja, ami öntudatra ébred s saját programozott halálát megpróbálja elkerülni s miközben alkotójára tör a Tears in Rain monológhoz hasonló szép költői képeket alkot?
A kétezer éve megoldatlan probléma
Nem csak a valóságot kell megértenünk, hogy a valóságot tapasztalni tudjuk, hanem a valóság megértésének már előzőleg is megvilágítottnak kell lennie. A lét megértése már eleve egy általában vett fényt adó, megvilágított horizonton mozog. (Heidegger: A metafizika alapproblémái, 351.o.)
A legtöbb AI tankönyvben, valahol a bevezetésben, találhatunk egy részt a mesterséges intelligencia határairól. Érdekes módon nem a klasszikus analitikus filozófia nagyágyúit veszik sorra általában, hanem egy teljesen más területen, a kontinentális, fenomenológiai hagyományban dolgozó Hubert Dreyfus-t. Ennek oka az, hogy 1965-ben megjelent Alchemy and Artificial Intelligence című tanulmánya, majd What Computers Can't Do és What Computers Still Can't Do című könyvei kiállták az idő próbáját és remekül megjósolták a mesterséges intelligencia kutatásának határait és buktatóit!
Dreyfus a klasszikus mesterséges intelligenciát vizsgálva arra jutott, hogy az négy előfeltevésre épül:
- biológiai előfeltevés - azaz, hogy az elme egy olyan eszközön, az agyon, valósul meg ami diszkrét információfeldolgozást hajt végre.
- pszichológiai előfeltevés - mely szerint az elme működése formális szabályokban leírható, ezek pedig megvalósíthatóak egy diszkrét információfeldolgozó egységen
- episztemológiai előfeltevés - a tudás formalizálható, azaz leírható véges számú atomi elem és azok kombinálást lehetővé tevő szabályok által
- ontológiai előfeltevés - maga a világ is leírható véges számú atomi elem és azok kombinációit leíró szabályok által
Ez nem más, mint a nyugati filozófia és tudomány kétezer éve elkezdett programja! A klasszikus AI (vagy GOFAI, azaz good old fashioned AI) még hitt abban, hogy a mesterséges intelligencia megalkotása segít megérteni a természetes, emberi intelligenciát. A pszichológiai előfeltevés erről szól, azonban független a másik háromtól, nagyon hamar el is vetették és a kognitív tudományhoz utalták mint kérdést. A másik három azonban a modern mesterséges intelligenciában is megjelenik.
Dreyfus nem vonja kétségbe a mesterséges intelligencia hasznosságát, sőt azt sem hogy fejlődik. Ellenben felhívja a figyelmet arra, hogy az AI előfeltevéseit használva a nyugati szellemi élet kétezer évig gyúrta az agy és elme problémáját mire rájött, hogy a klasszikus keretben nem megoldható.
Dreyfus abból indul ki, hogy az emberi intelligenciának csak egy része épül fel a tudományos megközelítésnek kedvező módon. Vannak problémamegoldási alapelvek, vannak mintaillesztési műveletek, melyek megközelíthetőek szabály alapon, vagy valószínűségi módon. De az emberi tapasztalat és intelligencia beépült a környezetbe. Legalább annyira vagyunk környezetünk termékei, mint annak szemlélői és alakítói. Quine-hoz hasonlóan Dreyfus is holista. Ahhoz, hogy meglássuk a világ, vagy éppen tudásunk atomi részeit, rendelkeznünk kell egy előzetes átfogó képpel magáról a világról! Vegyünk egy példát, egy korábbi írásunkból:
A híres gavagai-példa szerint: ha elvetődünk egy eddig elszigetelt törzshöz, és szeretnénk leírni nyelvüket, megfigyeléseket végzünk, nyelvi adatokat gyűjtünk, és megpróbáljuk a nyelv szabályait a beszélők viselkedéséből, reakcióiból „lepárolni”. Ha elkísérjük a törzs egyik tagját útján és meglát egy nyulat, majd felkiált, hogy „gavagai”, lejegyezzük, és megpróbáljuk értelmezni ezt a viselkedés. De hogyan fordítsuk le ezt magyarra?
„Nyúl”, de lehet hogy „ott egy nyúl” vagy „az ott egy nyúl”, de akár lehet „az lesz a mai vacsora” is. Nyilván praktikus eszközökkel le tudjuk szűkíteni a lehetséges interpretációkat (pl. ha este, amikor a tányérunkra kerül egy darab hús, és ismét azt halljuk hogy „gavagai”, akkor szűkül a kör, de még mindig lehet egyszerre vacsora és nyúl is a lehetséges fordítás). Quine szerint mindez azért van, mert az értelmezésekhez az egész nyelvet „egyszerre” kellene tudnunk előre, mivel nem szimplán mondatokat tanulunk, hanem azok összefüggéseit és a hozzájuk kapcsolt empirikus tapasztalatot is, így a nyelv mondatai absztrakciók csupán, jelentésüket a nyelv egészétől kapják, nem pedig az egyes mondatok adják össze a nyelv egészét.
És ez nem csak a nyelvre igaz, hanem magára az intelligenciára! Nem lehet elválasztani attól, hogy mi emberek a minket körülvevő világba vagyunk beágyazva. A világ legjobb reprezentációja saját maga, úgy ahogy számunkra adva van, s ezt nap mint nap használjuk öntudatlanul! Egy adott objektumot, pl. a templom tornyát, használjuk irányjelzőnek, hogy tudjunk tájékozódni, azaz kiterjesztjük elménket. Ugyanakkor elménk nem egyenlő az agyunkkal! Észlelésünk, a világban való jártasságunk testünk által meghatározott, hiszen a világot érzékszerveinken keresztül tapasztaljuk, testünkkel alakítjuk. Ezzel a gondolattal Dreyfus testesült (embodied) kogníció előfutára is egyben!
Jönnek a robotok!
Mielőtt valaki azt gondolná, ez csak filozófia, ismerkedjünk meg Moravec paradoxonjával! Moravec és Brooks a modern robotika úttörői részben Dreyfus hatására fordultak a testesült kogníció felé. A klasszikus megközelítés korlátait szeretnék feloldani azzal, hogy testet adnak intelligens rendszereiknek. A program során azzal a paradox helyzettel találkoztak, hogy a szimbolikus feldolgozás kevés, a szenzomotoros feldolgozás viszont hihetetlenül sok számítási kapacitást igényel. Az pedig csak hab a tortán, hogy a szimbolikus feldolgozás az alacsonyabb szintekre épül.
Tegyük fel, képesek vagyunk megépíteni egy robotot, ami testesült kognícióra képes. Tegyük fel, hogy van öntudata, bármit is jelentsen ez. Ez azt jelenti, hogy felépítésében nagyon hasonló kell legyen egy emberhez. Talán annyira hasonlónak, hogy a Blade Runner Voight-Kampff tesztjére szorulnánk annak eldöntésére hogy androiddal vagy emberrel van dolgunk.
Jelentős előrelépések történtek a mesterséges intelligencia területén napjainkban, s Google Deep Mind projektje épp az általános fogalmakat szeretné megtanulni éppen. Dreyfus arra figyelmeztet minket, hogy ez csak egy részét fedi le az elme tényleges működésének, hiszen a az egyedi elemek felismeréséhez szükséges egy átfogó szemlélet, azaz az alacsonyabb és magasabb rendű fogalmakat egyszerre, egymáshoz való viszonyaikkal tanuljuk meg. Ezeket a viszonyokat pedig testesülve érzékeljük, egy világba beágyazva, test és a környező világ nélkül csak részsikereket tudunk elérni.
