Umelá inteligencia: Čo učí AI o ľudskej inteligencii

Kognitívna veda: Čo AI učí o našej inteligencii

V roku 1996 systém Deep Blue AI porazil úradujúceho majstra sveta v šachu Garryho Kasparova. O 20 rokov neskôr porazil AlphaGo jedného z najlepších svetových hráčov Go, Juhokórejčana Lee Sedola. AI dnes dokážu rozlíšiť zhubnú a benígnu rakovinu kože, môžu parkovať autá a ovládať vojenské drony. V budúcnosti nám budú robiť spoločnosť v podobe domácich a ošetrovacích robotov. Vyvoláva to veľa otázok: Na čo je možné použiť umelú inteligenciu? Budú systémy inteligentnejšie ako my? Musia na to napodobňovať ľudské schopnosti? A čo sa z toho môžeme naučiť o ľudskej inteligencii?

Ak chcete znovu vytvoriť ľudskú inteligenciu, musíte definovať, čo to v skutočnosti je. Patria sem mnohé rôzne zručnosti: používanie nástrojov, plánovanie, rozvíjanie teórií, tvorivosť, porozumenie jazyka a niekoľko ďalších. Sú zakotvené v sieťových základných zručnostiach: zmyslové vnímanie, emočné hodnotenie, kontrola činnosti.

Mnohé z týchto schopností sa nám zdajú prirodzené. Máme tendenciu pripájať inteligenciu k špeciálnym zručnostiam, ako je napríklad hlbšie pochopenie matematiky. Porovnanie so systémami AI však ukazuje, aké zložité sú naše údajne banálne schopnosti. V histórii AI sa dvakrát predpokladalo, že systémy AI budú mať čoskoro také každodenné schopnosti: raz s prvou vlnou neurónových sietí v 70. rokoch a druhýkrát s vlnou expertných systémov na konci 80. rokov a na začiatku 90. roky. Výsledkom oboch eufórií bola „zima AI“ - fáza sklamaných a utíšených očakávaní.

V súčasnosti systémy AI stále myslia úplne inak ako ľudia, rovnako ako lietadlá lietajú inak ako vtáky, aj keď dodržiavajú rovnaké všeobecné základné fyzikálne princípy

Ľudská inteligencia a dnešná AI - s jadrom hlbokého učenia - majú radikálne odlišnú architektúru. Mozog a AI organizujú a spracúvajú obidve informácie o prostredí, ale nie rovnakým spôsobom: Líšia sa napríklad počtom úrovní spracovania, ich sieťovaním, mechanizmami učenia a vzájomným pôsobením vnímania, vedomostí a konania. Aj keď súčasná AI produkuje veľmi silné prístroje, môže preto prispieť k pochopeniu ľudskej inteligencie len málo: systémy AI môžu tiež produkovať inteligentné myslenie, ale v súčasnosti stále myslia úplne inak ako ľudia; tak ako lietadlá lietajú inak ako vtáky, aj keď dodržiavajú rovnaké všeobecné základné fyzikálne princípy. Navyše, AI nie je ani zďaleka rozvinutím ľudského poznania.

Základy dnešnej AI

V súčasnosti najznámejšia forma AI je založená na metóde »hlbokého učenia«. Vyžaduje veľmi veľa príkladov ako vstupov, ktoré pozostávajú zo vstupných a následných údajov, napríklad obrázkov a súvisiacich »štítkov«, ako napríklad »mačka« alebo »rakovina kože«. Z toho sa učí štatistické vzorce a vytvára tak zložitú sieťovú štruktúru, pomocou ktorej môže vypočítať predpovede pre nové vstupné údaje, ako je napríklad vhodný štítok pre obrázok. Učenie spočíva v spracovaní rozdielov medzi predpovedanými a pozorovanými stavmi skutočných následkov, aby sa zmenila sieťová štruktúra a váhy sieťových uzlov takým spôsobom, aby bola chyba predikcie čo najmenšia. Systém AI sa zo spätnej väzby učí spájať príklady so správnymi predikciami.

Systém AI má spravidla k dispozícii oveľa väčšiu databázu pre konkrétnu úlohu ako ľudia. Zatiaľ čo najlepší šachisti môžu opäť nasadiť na desaťtisíce šachových alebo Go hier, AI sa dá ľahko kŕmiť miliónmi hier. Toto umožňuje hlbokým vzdelávacím systémom objavovať štatistické zákonitosti, ku ktorým je ťažké alebo nemožné získať prístup. Zatiaľ to však fungovalo iba na obmedzené a jasne definované úlohy.

Čo to presne znamená? V šachu existuje konečný počet štvorcov, figúrok a pravidiel, ktoré jasne určujú stav hry a ktoré ťahy sú možné ďalej. Kedykoľvek AI predtým vyriešila úlohu lepšie ako ľudia, boli to jasne definované úlohy. Dalo by sa preto predpokladať, že systémy AI sa v zásade dokážu lepšie ako ľudia vyrovnať s akoukoľvek presne definovanou konečnou individuálnou úlohou, na ktorú je dostatok príkladov učenia.

Čo sa však stane, keď úlohy nie sú jasne definované? Čo ak sa úlohu treba najskôr naučiť a pravidlá hry alebo ciele sa časom menia? Sme ľudia nadradení AI v zásade a mimo nášho dosahu, akonáhle sú rámcové podmienky neostré a úlohy, pravidlá alebo ciele sú premenlivé?

Napríklad vodič automobilu musí za každých poveternostných a svetelných podmienok sledovať dopravnú situáciu a súčasne prechádzať zložitým staveniskom. Zvládnu to samoriadiace autá? Špeciálne systémy na rozpoznávanie objektov, osôb, tvárí a dopravných situácií sú v súčasnosti v rýchlom vývoji. Dúfame, že ak budú autá budúcnosti vzájomne prepojené, mohlo by v bežnej cestnej premávke spôsobiť menej nehôd ako priemerný vodič. To si však vyžaduje nielen fungovanie špeciálnych systémov, ale aj všeobecný zdravý rozum, ktorý dokáže tieto špeciálne systémy koordinovať a identifikovať hlavné chyby. To je presne miesto, kde sa ľudia a dnešné systémy AI líšia tromi spôsobmi.

1. Umelá inteligencia nie je robustná

Systémy AI môžu byť náchylné na neobvykle hrubé chyby. Ak bola AI trénovaná s mnohými príkladmi na rozpoznávanie fotografií automobilov a fotografií pštrosov, potom ich môže v zásade veľmi dobre rozlišovať. Môžu sa napriek tomu vyskytnúť systematické chyby: Je možné zmeniť obraz automobilu tak minimálne, aby sme my ľudia zmenu nevnímali, ale AI ju nesprávne zaradila ako pštrosa. V zásade možno urobiť systém AI robustnejším tak, že sa dozvieme, že aj tieto rôzne príklady automobilov sa majú klasifikovať. Ale základný problém zostáva: systém AI sa naučil iba štatistické zovšeobecnenie - pomocou veľkého počtu nastavovacích skrutiek v umelej neurónovej sieti.

Na rozdiel od toho má ľudský mozog tiež schopnosť stavať z našich skúseností mentálne modely a systematicky tak robiť ďalekosiahle závery nad rámec súčasných zmyslových vnemov, ktoré dokonca umožňujú vysvetlenie. Jedna forma vysvetľujúcej štruktúry je tiež známa ako generatívny model. Je založený na množstve zážitkov a s jeho pomocou náš mozog vytvára vnútornú hypotézu z určitého zmyslového vnímania, napríklad o smere, ktorým sa auto momentálne pohybuje a ktoré ďalšie objekty pokrýva. Takéto hypotézy sú oveľa robustnejšie ako systémy zamerané na klasifikáciu, na ktorých je založené hlboké učenie. Auto nikdy nie je ľuďmi nesprávne klasifikované ako pštros, pretože máme k dispozícii rôzne a všeobecnejšie stratégie modelovania, aby sa zabránilo takýmto hrubým chybám.

2. Predpovede AI s hlbokým učením sa dajú len ťažko vysvetliť

Systémy AI sa učia robiť správne predpovede úpravou pák - teda váh, s ktorými spracúvajú informácie. To im umožňuje rozpoznať vzory v dátach. Výsledné štatistické pravidlá sú distribuované po celej sieti; pravidlá len ťažko alebo vôbec nerozumieme a určite ich priamo neprispôsobujeme. Systém nie je vyškolený na to, aby robil zrozumiteľné predpovede, aj keď na ňom pracujú novšie prístupy: Systém AI môžete naprogramovať tak, aby zviditeľnil príslušné obrazové vzory, na ktorých je klasifikácia založená. Ale týmto pixelovým vzorom sa dá zriedka priradiť charakteristika vo vonkajšom svete, ktorej môžeme rozumieť. Príklad z rozpoznávania tváre: Zodpovedajú pixelové vzory abstraktnej línii tváre alebo skôr ďalšiemu systematickému kontrastnému vzoru, ktorý sa líši od našich tried funkcií? To zostáva otvorené.

Doteraz boli systémy umelej inteligencie založené na naučených štatistických zákonitostiach bez ich zaznamenávania na metaúrovni a ich sprístupňovania takým spôsobom, aby sme im porozumeli. Aj keď sa to systém AI naučil, stále mu chýba porozumenie pre príslušné kauzálne vzťahy. Pretože zobrazuje iba vzťahy medzi vstupnými a výstupnými údajmi, nie príčinu a následok. To je dôvod, prečo umelé neurónové siete doteraz neboli schopné sami rozvíjať vedomosti o jednoduchom svete.

3. Umelá inteligencia je menej flexibilná

Hlboké učenie sa spolieha iba na algoritmy učenia, ktoré hodnotia podobnosť. My ľudia máme k dispozícii veľa rôznych stratégií učenia. Môžeme sa poučiť z jedinej skúsenosti, napríklad zo spálenia prstov. Učíme sa pozorovaním ostatných alebo napodobňovaním ich správania. Môžeme okamžite zaznamenať základné charakteristiky, napríklad vzťahy medzi príčinami a následkami, a týmto spôsobom predvídať dôsledky a plánovať činnosti. Môžeme ignorovať povrchné podobnosti, napríklad medzi delfínmi a rybami. Naše teoretické vedomosti nás zachránia pred chybou: delfín nie je ryba, ale cicavec. Kombinujeme teda rôzne stratégie učenia a znalosti, aby sme sa vyhli chybám.

Charakteristické pre ľudské poznanie je, že sa na jednej strane dokážeme prispôsobiť novým situáciám, na druhej strane môžeme tú istú situáciu vyhodnotiť tak či onak. Kognitívna flexibilita - a nie vysoký kognitívny výkon - je ústrednou charakteristikou ľudskej inteligencie. Základná myšlienka, že umelá inteligencia musí jednoducho napodobňovať individuálny ľudský výkon, aby mohla reprodukovať a porozumieť ľudskému poznaniu, sa zdá byť naivná. Aby to bolo úspešné, musí do svojej sieťovej architektúry integrovať rôzne formy učenia a interakcie medzi jednotlivými vzdelávacími modulmi.

Tri úrovne inteligentných systémov

Neexistujú absolútne žiadne podobnosti medzi ľudskou a umelou inteligenciou? Britský neurológ David Marr popisuje inteligentné systémy na troch úrovniach. Prvá, výpočtová úroveň, je o tom, čo dokáže spracovanie informácií, napríklad rozpoznanie objektu na základe určitých charakteristík. Tu sa dajú základné poznatky AI preniesť do ľudského poznania, pretože všeobecné princípy spracovania informácií platia pre všetky systémy, či už sú to ľudia, zvieratá alebo počítače.

Na algoritmickej úrovni ide o cestu k riešeniu, napríklad ako sa jednotlivé prvky kombinujú a spracúvajú na identifikáciu objektu. Môže však existovať veľa rôznych algoritmov, ktoré vyriešia rovnaký výpočtový problém. S cieľom odvodiť človeka z AI si človek vyberie tie, ktoré najlepšie zodpovedajú jeho kognitívnej architektúre.

Na implementačnej úrovni je algoritmus implementovaný („implementovaný“) buď biologicky v mozgu alebo technicky v elektronickom systéme. Aby bolo možné porovnávať ľudí a AI, musí umelá sieť v počítači zodpovedať neurónovej sieti v mozgu. Ten posledný však obsahuje veľa, čiastočne nepochopených biochemických procesov, ktoré umelá neurónová sieť nemapuje. To neznamená, že spoločné prvky úplne zmiznú, ale existuje riziko, že zostanú relatívne abstraktné. Závery AI o nervovom spracovaní ľudí boli doteraz možné len vo veľmi obmedzenej miere.

Biológia verzus fyzika

Ľudia prinášajú kognitívnu architektúru, ktorá je biologicky zakotvená v mozgu. Základné mechanizmy sebazáchovy zabezpečujú dýchanie, telesnú teplotu, príjem kalórií a oveľa viac. Z toho vyplývajú základné potreby týkajúce sa jedla, spánku, fyzickej integrity, spolupatričnosti, sexuality a dokonca aj zvedavosti. Od toho sa odvíjajú aj naše emócie. Ako biologicko-spoločenské bytosti máme vnemy, pocity a empatiu. To dnes každému systému umelej inteligencie chýba: aj keď je na to vycvičený, dokáže v najlepšom prípade simulovať základné potreby a emócie.

To je zvyčajne odôvodnené skutočnosťou, že systémy AI nemajú žiadne vedomé skúsenosti. Ale to je príliš krátkozraké, pretože ľudia tiež veľa spracovávajú nevedome. Je skôr nevyhnutné, aby AI nemusela udržiavať biologickú rovnováhu, aby sa udržala, a preto nepotrebovala žiadne regulačné mechanizmy. Naše základné potreby nás ľudí motivujú, okrem iného, k tomu, aby sme preskúmali svoje fyzické a sociálne prostredie. Týmto spôsobom rozvíjame model sveta a predpoklady o vzťahoch medzi príčinami a následkami.

Naše biologicky ukotvené poznania sú teda rozmanitejšie a vzájomne prepojené rôznymi sieťami ako súčasné systémy AI. Predmety nevnímame iba pasívne, ale aktívne ich skúmame a vopred vidíme, čo s nimi môžeme urobiť. Naše vnímanie je formované našou kultúrou a našimi skúsenosťami; naše myšlienky sú založené na našich vnímaniach a vnemoch. Toto je radikálny rozdiel: Dnešné systémy umelej inteligencie sú idiotmi pre špeciálne úlohy alebo prepojenými modulmi pre zložité úlohy, ale stále im chýbajú emócie a zdravý rozum.

Kam by to malo smerovať?

Ak má umelá inteligencia prispieť k základnému pochopeniu ľudskej inteligencie, musí byť zakomponovaná biologicky a situačne. Inými slovami: Robustná, flexibilná AI založená na ľudských modeloch musí byť biologicky motivovaným vzdelávacím systémom, ktorý je vybavený navzájom prepojenými modulmi a ktorý vytvára očakávania týkajúce sa životného prostredia. Takýto systém by mohol poskytnúť hlboký vhľad do ľudského poznania - vrátane jeho vývoja - a produkovať umelú inteligenciu, ktorá si zaslúži svoje meno.

Nakoľko podobné nám môžu byť také systémy AI? O tom sa dá len špekulovať. Neurobiologický základ našej vedomej skúsenosti ešte nebol dostatočne dešifrovaný. Replika vedomej ľudskej skúsenosti s dnešnou technológiou AI zostáva nateraz nemožná. Rovnako sa len čiastočne rozumie tomu, ako sú prepojené vnímanie a rozhodovanie, vnemy a emócie. Ale jedného dňa pravdepodobne vyvinieme systémy AI, ktoré dokážu vypočítať a zohľadniť emocionálny stav ľudského náprotivku. Budú založené nielen na koreláciách, ale aj na mapovaní vzťahov príčin a následkov. Pre tieto architektúry sa nanovo objaví otázka, do akej miery môžu znovu vytvoriť ľudské myslenie.

Či budeme v strednodobom horizonte žiť s autonómnymi robotmi, ktorých nedokážeme odlíšiť od ľudí: čistá špekulácia. Budú však existovať inteligentné nástroje, ktoré sa s nami spoja ako individualizované nástroje - tak, ako to už chytré telefóny robia. V medicíne sa dá očakávať, že AI rozšíri naše kognitívne schopnosti a že mozgové implantáty aspoň čiastočne vyrovnajú kognitívne obmedzenia, ako je to dnes v prípade Parkinsonovej choroby hlboká mozgová stimulácia. V o niečo ďalšej budúcnosti by mohli existovať aj umelé systémy organizované úplne iným spôsobom, ktoré ukazujú hlbšie kauzálne chápanie sveta. V ideálnom prípade by takéto systémy radili ľuďom okrem iného aj v ekologických a ekonomických otázkach. Takáto silná AI skrýva nebezpečenstvo, ale aj potenciál vyriešiť globálne problémy.

Tipy na literatúru

Butz, M.V., Kutter, E.F .: Ako vzniká myseľ. Oxford University Press, 2017.

Newen, A., de Bruin, L., Gallagher, S. (Eds.): Oxford Handbook of 4E Cognition. Oxford University Press, 2018.