AI je falošný prorok

Bratislava 18. apríla 2023 (HSP/Unherd/Foto:Pixabay)

Naše zotročenie modloslužbou sa skončí katastrofou, píše Jacob Howland pre UnHerd

Modloslužba je vo svojej podstate paradoxná. Hoci zotročuje človeka nedisciplinovanými túžbami a príjemnými klamstvami, pramení z vôle k majstrovstvu. Podstatné je, že zlaté teľa nemôže hovoriť, nieto ešte nútiť hory dymiť a oblohu hromžiť, ako to robí Boh na Sinaji. Bolo postavené, aby ospravedlňovalo pôžitkárstvo, nie aby ho obmedzovalo.

Za tri tisícročia, ktoré uplynuli od prvého rozprávania príbehu o Exode, sme však vyrástli sofistikovanejšie. Dnešné najzvodnejšie modly sa naozaj prihovárajú, hoci len bruchatým ľudským hlasom, vyfabrikovaným z digitálneho mora blábolov.

Mám na mysli pokročilú umelú inteligenciu, ktorá vyvoláva emócie od strachu až po nadšenie. Minulý mesiac sa model umelej inteligencie s názvom GPT-4 umiestnil na 90. percentile na jednotných advokátskych skúškach, čo vyvolalo u právnikov strach o prácu. Lekári sa obávajú schopnosti umelej inteligencie falšovať výskumné práce a ChatGPT bol zapletený do niekoľkých prípadov ohovárania. Medzitým agentúry ako ministerstvo obrany a Národná vedecká nadácia vynakladajú peniaze daňových poplatníkov na vývoj strojov “vojenskej triedy” poháňaných umelou inteligenciou na cenzurovanie informácií a “automatizáciu výroby a šírenia štátnej propagandy”.

Ale hoci sa vláda do umelej inteligencie pustila naplno, niektorí odborníci majú vážne pochybnosti. S odvolaním sa na “hlboké riziká pre spoločnosť a ľudstvo” vyzvalo viac ako 1 000 technologických lídrov a výskumníkov na šesťmesačnú prestávku vo vývoji AI. Jeden zo zakladateľov tejto oblasti ide ešte ďalej a tvrdí, že je potrebné úplné globálne moratórium, aby sa zabránilo smrti “doslova každého človeka na Zemi”. Tieto návrhy kladú strašne vážnu otázku, ktorá znie ako vtip: Čo by urobil Xi?

Keď vstupujeme do odvážneho nového sveta umelej inteligencie, mohli by sme sa zamyslieť nad tým, čo nás západná tradícia môže naučiť o najhlbších otázkach, ktoré vyvolávajú sofistikované procesy strojového učenia. A najzásadnejším z nich môže byť modloslužba – problém, ktorý, ako chápali starí Hebrejci a Gréci, je politický a psychologický, ako aj teologický.

Pojem “modloslužba” pochádza z dvoch gréckych slov. Eidōlon je nehmotná forma, podobne ako “prízraky prežitých smrteľníkov”, s ktorými sa Odyseus stretáva v Háde. Latreia je druh otroctva: stav nájomného robotníka alebo služba bohom, ktorá predstavuje uctievanie. Modly, ako nás informuje Židovská encyklopédia, “sú rytiny, neforemné hrudy, a keďže sú dielom ľudských rúk, nemôžu hovoriť, vidieť, počuť, čuchať, jesť, chytať ani cítiť a sú bezmocné buď škodiť, alebo prinášať úžitok”.

Boh začína svoje vyhlásenie Dekalógu v knihe Exodus 20 zákazom uctievania modiel: “Nebudeš mať iných bohov okrem mňa. Nebudeš si robiť žiadne vyrezávané podobizne a žiadne obrazy toho, čo je na nebi hore alebo čo je na zemi dole alebo čo je vo vodách pod zemou. Nebudeš sa im klaňať a nebudeš sa im klaňať.” Po tom, čo Boh práve oslobodil Izraelitov od faraónovho krutého despotizmu, varuje ich pred tým, aby pokračovali v zotročovaní svojich vlastných diel: vecí, ktoré sú vďaka psychologickému tajomstvu kolektívneho sebaklamu obdarené zdanlivo nezávislou mocou a významom.

Sebazotročenie modloslužbou je téma, ku ktorej sa neskorší myslitelia opakovane vracajú. Väzni v Platónovej jaskyni sú uchvátení tieňmi modiel, ktorými manipulujú neviditeľní bábkari. Marx hovorí o “fetišizme tovaru” v kapitalizme a odcudzení robotníka od produktov jeho práce. A nechýbajú ani vedecko-fantastické knihy opisujúce dystopické budúcnosti, v ktorých sú ľudia tyranizovaní strojmi.

Prečo si však ľudia vzývajú modly a klaňajú sa im? Biblia sa touto otázkou zaoberá, keď počas Mojžišovej neprítomnosti vzbúrení Izraeliti prinútia Árona, aby “nám urobil bohov”:

Áron im povedal: “A Áron im povedal: Aron povedal: “Zoberte si zlaté krúžky, ktoré máte na ušiach svojich žien, svojich synov a svojich dcér, a prineste mi ich. Všetok ľud si teda sňal zlaté krúžky, ktoré mali na ušiach, a priniesol ich Áronovi. On ich vzal z ich rúk, vytvaroval ich do formy a urobil z nich roztavené teľa. A oni povedali: “Toto sú tvoji bohovia, Izrael, ktorí ťa vyviedli z egyptskej krajiny.”

Význam tohto úryvku nepriamo objasnil aténsky dramatik Aristofanes, ktorý nepoznal Bibliu, ale pochopil tajomstvo pohanskej teogenézy. V hre Oblaky sa muž v nádeji, že sa vykľučkuje z dlhov, vyberie do Sokratovej školy, aby sa naučil umeniu nespravodlivej reči. Keď sa tento mŕtvolník zaprisahá, že mu zaplatí, Sokrates mu odpovie: “Na akých bohov budeš prisahať? Lebo predovšetkým bohovia nie sú pre nás aktuálnou mincou [nomisma].” Grécke slovo pre mincu etymologicky súvisí s nomos: zákon, zvyk alebo konvencia. Inými slovami, bohovia sú ľudské výtvory. Aténske strieborné tetradrachmy niesli podobu bohyne patrónky mesta; každá komunita, ako naznačuje Sokrates, razí svoje vlastné božstvá, ktoré fungujú ako výmenné žetóny v jej politickej a teologickej ekonomike len dovtedy, kým je ich hodnota všeobecne uznávaná.

Áronova výroba zlatého teľaťa je práve takýmto aktom razenia mincí – ktorý sa z pohľadu Biblie podobá falšovaniu. Skôr než Mojžiš stihne z hory priniesť božské slovo, napísané na tabuľkách, Izraeliti – zlievajúca sa, nediferencovaná masa, ako ich roztavené náušnice – sa prihovoria amalgamovanému bohu, ktorého si tak násilne objednali prekrútením vety, ktorá uvádza Dekalóg: “Ja som Pán, tvoj Boh, ktorý ťa vyviedol z egyptskej krajiny”. Tento akt zlej viery len čiastočne zakrýva skutočnosť, že dav uctieva svoju vlastnú nespútanú kolektívnu moc.

V epizóde o zlatom teľati totiž nejde len o to, či Izraeliti budú žiť podľa Božieho zákona, ale aj o to, či sa im podarí vytvoriť radikálne revíznu históriu Exodu. Tým, že Izraeliti fakticky vyhlásili, že sa oslobodili, vymazali všetky dlhy voči Bohu a Mojžišovi. A pre ich otrockú myseľ sloboda znamená povolenie; implicitné sebaposvätenie Izraelitov povoľuje hodovanie, pitie a sexuálne hry nasledujúceho dňa. Vhodným symbolom sebapovýšenia ľudu je masa zlata – drahý kov, ktorý sa už za faraónových čias dal premeniť na primárne predmety chuti, vrátane moci, cti, pohodlia a rozkoše.

Dnes si Svetové ekonomické fórum predstavuje, že umelá inteligencia nás privedie do menej primitívnej “utópie”, zasľúbenej zeme 21. storočia, v ktorej budú ľudia “tráviť svoj čas voľným časom, tvorivými a duchovnými aktivitami”. Bezpečnejšou stávkou by boli drogy a sexuálne roboty. Pred deväťdesiatimi rokmi John Maynard Keynes s desivou presnosťou predpovedal, že stroje do sto rokov urobia prácu zastaranou. Táto vyhliadka ho napĺňala “hrôzou”, pretože len veľmi málo ľudí bolo vzdelaných pre voľný čas.

Súdiac podľa zlého správania sa bohatých, “prednej stráže… ktorá špehuje zasľúbenú krajinu voľného času pre nás ostatných a rozkladá tam svoj tábor”, Keynes považoval vyhliadky za “veľmi depresívne”. A tým, ktorí sa po oslobodení od práce tešili, že nebudú robiť nič iné, len počúvať piesne, odpovedal: “len pre tých, ktorí majú čo robiť so spevom, bude život znesiteľný a ako málo z nás vie spievať!”

V roku 2018 sa v článku v časopise Scientific American objavila predpoveď, že pokročilá umelá inteligencia “rozšíri naše schopnosti a nevídaným spôsobom posilní našu ľudskosť”. Táto polyanistická prognóza ignoruje skutočnosť, že všetky ľudské schopnosti majú tendenciu pri nepoužívaní atrofovať. Najmä umelá inteligencia neúprosne mení spôsob, akým myslíme (alebo nemyslíme). Študenti teraz používajú ChatGPT na vypracovanie domácich úloh pre profesorov, ktorí sa naň možno spoliehajú pri písaní svojich prednášok. Na tomto absurdnom scenári nie je zábavná len myšlienka, že stroje sa rozprávajú so strojmi, ale aj to, že intelektuálne leniví ľudia by v záujme vzájomného klamania využívali simulakrum ľudskej inteligencie.

V porovnaní s prirodzenou výbavou ľudskej inteligencie je umelý druh oxymoronom, podobne ako “pravá imitácia kože”. Umelá inteligencia je mechanickou simuláciou len jednej časti inteligencie: schopnosti diskurzívneho myslenia, teda analýzy a syntézy informácií. Diskurzívne myslenie sa zaoberá ľuďmi vytvorenými tokénmi vrátane číselných a jazykových symbolov (alebo v prípade AI digitálne zakódovanými údajmi). Zatiaľ čo ľudská inteligencia dokáže tieto tokeny porovnať s vecami, ktoré reprezentujú, umelá inteligencia to nedokáže, pretože jej chýba intuícia: bezprostredné poznanie reality, ktoré nás zakotvuje vo svete a usmerňuje našu energiu mimo nás samých a operácií našej vlastnej mysle. Je to napríklad intuícia, ktorá nám hovorí, či sú naši najbližší v zásade hodní dôvery. (Netreba dodávať, že intuícia je omylná, ako každá iná intelektuálna operácia).

Umelá inteligencia nemá priame a konkrétne väzby na skutočný svet, ku ktorému sa vzťahuje len prostredníctvom binárneho zápisu. Uzavretá v elektronickom éteri nikde nebýva, ničoho sa nebojí, nič nemiluje a nemá individuálny názor. Má zmysel priznávať autonómiu a pôsobenie inteligencii, ktorá nemá prirodzený vzťah k ľudským potrebám?

Silnou stránkou sofistikovanej umelej inteligencie je jej schopnosť triediť obrovské množstvo údajov, agregovať a dezagregovať diskrétne kúsky informácií potenciálne zmysluplným spôsobom. Ide o sľubnú schopnosť s využitím vo viacerých oblastiach od medicíny až po dopravu. Ale produkty umelej inteligencie sú umelé regurgitácie materiálu, ktorý sa vyberá z obrovských, ale plytkých bazénov digitálneho obsahu a manipuluje sa s ním spôsobmi, ktoré sú aspoň v zásade obmedzené len obmedzeniami programátorov.

To môže byť nesmierne užitočné pri zisťovaní vzorcov informácií, ktoré by inak boli pre ľudské oko neviditeľné. K mnohým problémom sa však nedá zmysluplne pristupovať pomocou dolovania veľkých dát. Na otázky etickej alebo politickej povahy môže umelá inteligencia buď odmietnuť poskytnúť jednoznačnú odpoveď, alebo môže prehľadávať databázy s názormi a vrátiť to, čo podľa jej výpočtov predstavuje najpravdepodobnejšiu odpoveď. Ale to, či je takto vygenerovaná odpoveď spravodlivá alebo múdra, môže byť len vecou náhody. Čiastočne je to spôsobené programátorským skreslením vrátane nadhodnotených alebo podhodnotených súborov údajov. Keď sa napríklad ChatGPT alebo chatbot Bard spoločnosti Google požiadajú, aby zhodnotili Bidena a Trumpa, ich ľavicový sklon je zrejmý. (Skúste požiadať ChatGPT, aby napísal eseje porovnávajúce každého z týchto prezidentov so Stalinom.)

Zásadnejší problém spočíva v tom, že strojové učenie jednoducho nie je uspôsobené na triedenie informácií podľa zle definovaných kvalitatívnych ukazovateľov, ako je spravodlivosť alebo múdrosť. Bolo by to tak aj v prípade, keby boli spravodlivé alebo múdre pohľady na internete bežné, čo nie sú. Hoci nikto úplne nerozumie tomu, ako pokročilá umelá inteligencia funguje, staré príslovie pre ňu neplatí o nič menej ako pre najjednoduchšie počítačové programy: “Garbage in, garbage out.”

Pokiaľ AI zostáva v medziach svojich možností, je to preto, že programátori zámerne obmedzili jej činnosť. Čo sa stane, keď z vlastných, príliš ľudských dôvodov – túžba po moci, cti a bohatstve, národná hrdosť alebo jednoducho strach zo straty zamestnania – tieto obmedzenia odstránia? Alebo keď po tom, čo sme skutočne stratili návyk myslieť samostatne, budú ľudia vo všeobecnosti ochotní udeliť umelej inteligencii právomoci v záležitostiach, na ktoré nie je vybavená? Bol by niekto prekvapený, keby zajtra niekto spustil aplikáciu Spravodlivosť riadenú umelou inteligenciou, ktorá sľubuje, že vyrieši praktické otázky rozdelenia a odplaty na mieste? Alebo ak by sme si vzali príklad zo známej softvérovej spoločnosti (NYSE: ORCL) a jedného dňa by sme s touto aplikáciou – alebo s nejakým iným algoritmicky vytvoreným destilátom súhrnných názorov – začali zaobchádzať ako s orákulom?

Ten deň sa rýchlo blíži, ak už nie je tu. Umelá inteligencia dnes nahrádza duchovných pri náboženských rituáloch a obradoch a katolíci môžu dokonca využívať Chatbota na spoveď. Nedávny článok, ktorý vidí využitie umelej inteligencie pri písaní kázní, si však všíma jedno obmedzenie pastoračného zamestnávania strojov: “hovoriť Božie slovo k zhromaždeniu alebo k jednotlivcovi si vyžaduje [osobný] vzťah”. Umelá inteligencia však nie je schopná žiadneho priameho vzťahu s ľuďmi, vrátane takého, ktorý je otvorený možnosti viery. Ako by mohlo zhromaždenie dôverovať náboženskému vodcovi, a už vôbec nie Bohu, ktorý túto dôveru nemôže opätovať?

Izraelský experiment s modloslužbou sa skončil katastrofou. Po epizóde so zlatým teľaťom Mojžiš prikázal levitom, aby vzali meče a očistili tábor od previnilcov. “Zabite každý svojho brata,” prikázal, “každý svojho druha a každý svojho blížneho.” Nemali by sme očakávať podobne krvavé vyústenie, keď počúvajúc úplne nezodpovedný hlas AI, akoby to bolo Božie slovo, opäť dosiahneme vrchol modloslužby?