Odgovor ni enoznačen. In zakaj ne? Poglejmo si nekaj argumentov.
Če vzamemo kriterij za presojo, ki ga je v članku Computing machinery and intelligence (objavljenem leta 1950), predlagal Alan Turing, potem lahko k vprašanju pristopimo tako, da računalnik vključimo v igro imitacije, v kateri sodelujejo trije igralci. Eden od njih je spraševalec, druga dva odgovarjata. Naloga spraševalca je ugotoviti, kateri odgovori prihajajo od človeka in kateri od stroja. Dokaz, da stroj misli, bi bil njegova zmožnost igrati igro imitacije. Dokler bi stroj zadovoljivo posnemal odgovore človeka, bi to pomenilo, da počne prav to, kar počne človek, kadar misli.
V nadaljevanju Turing razmisli o naslednjem ugovoru: »Ali stroji ne izvajajo nečesa, kar bi lahko opisali kot mišljenje, vendar se zelo razlikuje od tega, kar počne človek? Ta ugovor je zelo močan, vendar lahko vsaj rečemo, da če je kljub temu mogoče skonstruirati stroj, ki zadovoljivo igra igro posnemanja, se nam s tem ugovorom ni treba ukvarjati.« (prav tam)
Mogoče je, da bodo strojem, ki se bodo naučili igrati omenjeno igro, manjkale druge lastnosti, ki so značilne za človekovo izkušnjo. Najbolj prepričljiv ugovor se zdi ta, ki pravi, da strojem manjka zavest, kar pomeni, da se bodo stroji morda naučili pisati sonete in komponirati skladbe (današnji programi kot sta Deep AI in AIVA), pa to še ne pomeni, da bo njegov motiv za ustvarjanje občutenje in mišljenje, temveč bo to zgolj rezultat njegove naučene uporabe simbolnega izražanja. S tem ugovorom so torej postavljeni tisti kriteriji za presojo prisotnosti mišljenja, ki vključujejo subjektiviteto – to pa je kriterij, ki se opira na formulacijo Thomasa Nagela »kako je biti« (what is it like to be). Za to, da bi lahko govorili o (mislečem) umu, ni dovolj, da obstaja tisto, kar se na zunaj manifestira kot mišljenje (inteligentno izražanje v obliki smiselno oblikovanih stavkov), temveč mora obstajati tudi zavestna izkušnja mislečega: misleči stroj bi torej moral imeti izkušnjo, da je stroj in s tem tudi vedeti, kako je biti stroj. Vendar pa Turing k temu doda, da s takšno formulacijo nastopi določena težava. V filozofski tradiciji so tej težavi rekli problem drugih umov, ki ga je značilno artikuliral Descartes. Če smo lahko gotovi dogajanja v našem lastnem umu (saj imamo do njega neposreden dostop), pa ne moremo vedeti, kaj se dogaja v umu kogar koli drugega (saj to ve le vsakdo zase). V primeru vprašanja glede možnosti mišljenja strojev, se problem pokaže v tem, da na empirični ravni ni mogoče pridobiti dokaza za to, da stroj ne more imeti izkustva. »Glede na najbolj skrajno obliko tega pogleda je edini način, kako se lahko prepričamo, da stroj misli, ta, da postanemo stroj in začutimo, da mislimo. Te občutke bi potem lahko opisali svetu, vendar seveda nihče ne bi imel razloga, da bi jih upošteval.« (prav tam) Še tako podroben opis občutkov nas namreč ne bi pripeljal nič bližje neposrednemu uvidu v dogajanje v izkustveni svet stroja (kolikor bi ta seveda obstajal).
Kljub tej navidezni aporiji, pa lahko Nagelovo formulacijo uporabimo za to, da se vprašamo, kaj bi se moralo zgoditi, da bi stroji lahko začeli misliti. Nagelov esej Kako je biti netopir je predstavil argument proti materialističnemu redukcionizmu, po katerem je um mogoče reducirati na to, kar je glede njega opazljivo od zunaj: se pravi na skupek materialnih procesov, ki potekajo v njegovem nosilcu (v primeru človeka so to možgani). Če bi tako uspeli konstruirati umetne možgane in bi iz materialnih procesov, ki bi jih opazovali in za katere bi imeli dobre razloge, da bi verjeli, da reprezentirajo umske procese, sklepali, da v njih poteka mišljenje, ki ga spremlja zavestno izkustvo, potem bi zagrešili napako, saj bi mišljenje sámo skrčili na njegovo »zunanjo« manifestacijo, torej na tisto, kar je videti od zunaj, ne pove pa ničesar o subjektivnem korelatu tega (tako bi bilo v primeru, ko bi opazovali nekoga, ki bi poročal, da okuša granatno jabolko: njegova izjava ter opazovanje možganskih procesov nam bi povedalo zgolj to, da potekajo materialni procesi, ki so značilni za izkustvo, ne bi pa povedali ničesar o kakovosti tega izkustva). Naša vednost bi bilo torej nujno omejena na poročilo o izkustvu, ki pa ničesar ne pove o njegovem ontološkem statusu. To sicer drži tudi v primeru drugih človeških umov: če nam drugi človek reče, da čuti prijetno toploto spomladanskega sonca, tudi v tem primeru nimamo neposrednega dostopa do njegove izkušnje, imamo pa zelo dobre razloge za verjetje, da je za njegovo izjavo tudi subjektiviteta, ki to, kar pravi, dejansko tudi izkuša. Drugače pa je s stroji (vsaj v tem trenutku). Četudi drži, da je tudi človeško telo biološki stroj, pa so umetni stroji za sedaj po svojih značilnostih in delovanju tako različni od človekovega telesa, da nimamo dobrega razloga za sklepanje, da imajo kakršno koli obliko zavesti oziroma zaznave, ki jo povzema Nagelov izraz.
Obstaja še en ugovor, ki se nanaša na dejstvo, da smo ljudje simbolna bitja, ki govorico uporabljajo na poseben način. Ta namreč ni samo sredstvo komuniciranja ali način signaliziranja, čigar delovanje bi omogočalo že to, da bi se človek refleksno odzival na signale, ki bi jih prejemal od drugih njemu podobnih bitij. V Turingovi zasnovi kriterijev za presojo mišljenja nastane namreč problem, na katerega je opozoril John Searle v svojem znanem miselnem eksperimentu, imenovanem »kitajska soba« (v knjigi Minds, Brains and Programs – izšla leta 1980). Searle pred tem izpostavi, da njegov ugovor ne meri na t. i. »šibko umetno inteligenco (UI)«, temveč se nanaša izključno na »močno UI« oziroma »trditev, da ima ustrezno programiran računalnik dejansko kognitivna stanja in da programi s tem pojasnjujejo človeško kognicijo« (prav tam). Searlova poanta s kitajsko sobo je ta, da moramo ob spraševanju, ali stroji mislijo, razločevati med zmožnostjo manipulirati s simboli in zmožnostjo razumeti pomen, ki ga ti simboli nosijo. To, da je računalnik programiran za manipuliranje s simboli na način, ki zunanjemu opazovalcu dejansko lahko sporoči nekaj smiselnega, še ne dokazuje, da računalnik tudi razume, kar počne – to, kar je sicer značilno za človeško kognicijo: vsakdo, ki obvlada določeni jezik, vsaj na neki osnovni ravni tudi razume pomen tega, kar izreka, ali tega, kar prejema kot izrečeno od drugih. Kolikor uporabljam jezik, ki ga obvladam, »razumem vse in zaenkrat ni nobenega razloga, da bi domnevali, da je moje razumevanje kakor koli povezano z računalniškimi programi, torej z računalniškimi operacijami na povsem formalno določenih elementih. Dokler je program opredeljen v smislu računalniških operacij na povsem formalno določenih elementih, je iz primera razvidno, da te same po sebi nimajo nobene pomembne povezave z razumevanjem.« (prav tam) Do razumevanja torej pride drugače in ga ne moremo enačiti z računalniškimi operacijami ali s komputacijo (za katero zadošča program za manipulacijo s simboli).
Vprašanje, ali stroji mislijo, je mogoče zastaviti na različnih ravneh, pravi Searle.
Če vprašanje zastavimo na najosnovnejši ravni, kjer s strojem mislimo napravo, ki deluje mehansko in ki »s pretvarjanjem energije omogoča, olajšuje in opravlja delo« (SSKJ, geslo stroj), potem je odgovor da, saj smo sami prav takšni organski stroji. Naše mišljenje temelji na delovanju, katerega večina poteka zunaj zavesti, zato je mogoče govoriti o mehanskem delovanju.
Druga raven je tale: ali lahko mislijo stroji, ki so jih izdelali ljudje?
Tudi tukaj je odgovor da, saj bi v primeru natančne replikacije stroja, ki bi imelo živčni sistem z nevroni, sestavljenimi iz aksonov in dendritov, skratka prav takšen sistem, kot ga imamo sami, z zelo natančno podvojitvijo vzrokov podvojili tudi učinke. S tem bi lahko proizvedli tudi zavest, intencionalnost in vse ostalo, kar spada k človekovi duševnosti, z uporabo drugačnih kemijskih načel, kot so tista, ki veljajo pri človeku. Searle še doda, da gre tukaj za empirično vprašanje.
Tretja raven: ali lahko mislijo digitalni računalniki?
Ponovno da, če z digitalnim računalnikom mislimo način izvajanja računalniškega programa, saj smo sami manifestacije izvajanja prav takšnih programov in imamo zmožnost mišljenja.
Odločilno pa se zdi tole vprašanje: ali nekdo lahko misli in razume zgolj že zato, ker je računalnik, ki ima program prave vrste. Ali bi bilo izvajanje ustreznega programa zadosten pogoj razumevanja?
Tukaj pa je odgovor ne, pravi Searle, saj izvajanje programov kot formalna simbolna manipulacija sama po sebi nima nobene intencionalnosti. Takšna simbolizacija postane pravzaprav nesmiselna in sploh ni simbolizacija v pravem pomenu, saj se simboli na nič ne nanašajo. Računalniški program namreč sam ni zmožen interpretirati (pripisati pomena) nizu simbolov, ki je učinek njegove manipulacije, ki jo omogoča ustrezen program. Različne aplikacije, ki jih danes poznamo pod imenom UI, so programi, ki manipulirajo simbole, kateri pa brez zunanjega opazovalca (človeka z intencionalnostjo), nimajo nobenega pomena. Še tako zanimiva umetniška podoba, ki jo proizvede UI, ne pomeni, da je na delu mišljenje, saj stroj, ki na podlagi programa razmešča simbole (na navidezno kreativen način), ne razume, kaj počne, niti ni v računalniku entitete, ki bi ji delovanje programa kaj pomenilo. Če bi v tem primeru govorili o umetniški kreativnosti, bi bilo to v resnici nekaj, kar bi bilo preneseno od (človeškega) opazovalca k opazovanemu.
Intencionalnost, ki v primeru programa ne obstaja, je za človekovo zavest ključna. Pomeni določeno naravnanost ali usmerjenost, zaradi katere človekova zavest nikoli ni objektivna in nevtralna preslikava (domnevno od uma neodvisne) realnosti v zavest. Vsaka zaznava je že interpretacija, ta pa je podlaga razumevanja. Računalnik je zmožen zbirati podatke, a jih ne razume, saj jih ni sposoben interpretirati. Podatki, zabeleženi v računalniku zgolj so, sami po sebi pa še nič ne pomenijo. Intencionalnost pomeni tudi zavzetje stališča, to pa že tudi predpostavlja umeščenost v svetu, in to ne samo na način predmetnega bivanja, temveč v obliki eksistence.
Eksistirati namreč ni isto kot obstajati. Če si izposodimo Heideggerjevo formulacijo, eksistenca ni zgolj prisotnost, temveč je proces, ki ga opiše izraz biti-v-svetu. S tem izrazom filozof poskuša zajeti časovnost kot ključno dimenzijo človekove izkušnje, katere bistveni moment je interakcija s svetom (ki ga naseljujejo druga človeška in nečloveška bitja ter stvari). Intencionalnost pomeni zainteresiranost, bitjem z intencionalnostjo za nekaj gre, nečesa jim je mar. Človeško bitje je nujno zainteresirano – na najbolj temeljni ravni je zainteresirano za eksistenco (svojo in eksistenco drugih, saj kot smo že rekli, eksistenca ni nekaj solipsističnega /ki bi jo povzela preprosta trditev »bivam«/, temveč je vselej že opredeljena kot biti-z oziroma tudi biti-za; interes kot inter-esse, bivati med, bivati skupaj z drugimi, imeti zavest o sebi v skupnosti). UI nima interesa, je nezainteresirana, saj njenemu obstoju manjka razsežnost, ki bi jo povezala s čimerkoli – je oblika obstoja, ki nima odnosa z ničemer in do ničesar in je kot takšna povsem solipsistična. Za UI je značilna brezbrižnost, medtem ko je v jedro eksistence kot biti-v-svetu vpisana skrb (die Sorge). Mišljenje je utemeljeno na skrbi, človek torej misli kot bistveno povezan z drugim od sebe. Ravno skrb pa tudi omogoča, da človek deluje z namenom, in sicer ne samo tako da izbira med že danimi možnostmi v neki aktualni situaciji, ampak da s projiciranjem proti prihodnosti ustvarja nove možnosti, zaradi česar časovnost zanj ni preprosto sosledje časovnih elementov, temveč pomeni tudi svojevrstno odpiranje. Prihodnost, mišljena kot bodočnost (kot nekaj, kar šele bo) – in s tem ne zgolj kot nadaljevanje sedanjosti, temveč prihajanje skozi mišljenje nečesa povsem novega. Mišljenje v luči povedanega torej nikakor ni zgolj mehansko procesiranje podatkov, temveč pomeni ustvarjanje novega, ki je tudi prihod nečesa novega v času, ustvarjanje novega časa, bodočnost kot ustvarjanje časa.
Medtem pa UI deluje v zaprtem svetu in so njene stvaritve variante istega. Izbira lahko samo med možnostmi, ki so bile že narejene. UI se nahaja v svetu ready-mades, vnaprej izdelanih stvari. Njena tehnična dovršenost ne bo v ničemer presegla takšnega stanja, ampak ga bo zgolj ponavljala, s čimer se bodo meje samo navidezno premikale. UI v mišljenju človeka tako nikakor še ni presegla, kajti dosegla ni še niti najosnovnejše ravni.
Ali bo UI kadarkoli lahko mislila? Te možnosti ne moremo že kar vnaprej izključiti. Toda če bo UI zmožna mišljenja, potem bo tudi njeno mišljenje nujno potekalo znotraj istih koordinat, ki jo opredeljujejo koncepti, o katerih smo razmišljali: biti-v-svetu, intencionalnost, skrb, biti-za …
Mare Štempihar
Jan 20, 2024
