Peter Denning nevychází snadno. Významný počítačový vědec a autor nové studie „Turingova chyba: Vymanit se z jha neinteligentních strojů“ tvrdí, že celá oblast umělé inteligence se od roku 1950 ubírá špatným směrem.
Alan Turing. Otec teoretické informatiky. Navrhl posoudit inteligenci stroje podle toho, jak dobře napodobuje lidskou řeč – slavný „Turingův test“. Po celá desetiletí byla tato myšlenka považována za nezpochybnitelnou pravdu. Věřilo se, že intelekt lze oddělit od těla, zredukovat na programový kód a spustit na jakémkoli digitálním počítači.
Denning rozhodně nesouhlasí.
Ve své analýze píše, že tyto dvě myšlenky „definovaly velkou část výzkumu a vývoje AI“. A to nás vedlo do slepé uličky. Vytváříme systémy, které vypadají chytře, ale ve skutečnosti nemyslí. Nechápou. Necítí. A jsou nebezpeční právě proto, že nejsou lidé.
Tacitní znalostní mezera
Denningův argument je založen na jednom evolučně neuchopitelném konceptu: tiché znalosti.
Co je to? Je to obrovské množství porozumění, které máte, ale nemůžete ho vyjádřit slovy. To je svalová paměť pianisty. Chirurgův instinkt. Společný kulturní základ, který naznačuje vtip, je vtipný a není urážlivý. Máme to. Auta to nemají.
Denning identifikuje pět forem těchto znalostí, které ještě nejsou dostupné pro strojové učení:
- Zdravý rozum
- Každodenní interakce s lidmi a prostředím
- Pocity a vjemy
- Praktické dovednosti
- Kulturní a historické souvislosti
Pokusili jsme se tento problém vyřešit. Zpátky v 80. letech minulého století. Douglas Lenat zahájil projekt Cyc, ambiciózní pokus vytvořit obří databázi faktů o zdravém rozumu pro počítače. O čtyřicet let později, po 25 milionech příspěvků, padl verdikt: pořád to nestačilo.
„Projekt Cyc potvrdil, že mnoho znalostí, které z člověka dělají odborníka, nelze formulovat jako logická fakta.“
Denning to říká otevřeně. Ani tak obrovská pokladnice faktů nevytváří skutečné mistrovství. Můžete si pamatovat který je který. Ale nemůžete si uložit jak být expertem.
Vědět to vs vědět jak
Praktická dovednost se stává nepřekonatelnou překážkou.
„Přestože popisy výsledků mistrovského výkonu mohou být často reprezentovány jako kousky dat,“ vysvětluje Denning, „nevíme, jak zakódovat tělesné znalosti potřebné pro mistrovský výkon.“
Je rozdíl vědět co a vědět jak. Virtuózní houslista vytváří krásnou hudbu. Zkuste ho požádat, aby přesně popsal, jak vytvořit zvuk, aby jej mohl reprodukovat jiný člověk. Je to prakticky nemožné. Znalosti jsou v prstech. V uchu. V těle.
Umístěte jej do robota. I když má fyzickou podobu, která napodobuje člověka. Stále ten pocit nechápe. Bude schopen kopírovat pohyb. Ale nebude cítit hudbu. Nebo reakce veřejnosti.
Intuice, spontánnost, představivost – to vše se brání redukci na kód.
Problém reprezentace
Zde je technický bod: Počítače zpracovávají pouze data zakódovaná ve fyzické podobě. Binární kódy. Symboly.
Tacitní znalosti do tohoto schématu nezapadají.
“Slova jsou pouze symbolické reprezentace významů… nemohou znát nebo pochopit význam toho, co říkají.”
To je důvod, proč velké jazykové modely (LLM), jako je ChatGPT nebo Gemini, mají své limity. Manipulují se symboly. Neznají význam, který se za nimi skrývá.
Za každým slovem se skrývá oceán tichých znalostí. Vědci stále plně nechápou, jak se tyto znalosti ukládají v lidském mozku. Víme, že je vtělena do těla. Ale nemůžeme to pozorovat. Nemůžeme to změřit. Proto jej nemůžeme přenést.
Vzniká tak nepřekonatelná mezera.
Proč kontext všechno mění
Hodnota není statická. Je tekutý. Záleží na kontextu.
Prohlášení zcela změní svůj význam, pokud je mluvčí spíše ironický než upřímný. Dělá si legraci, ne vztek. Lidské konverzace jsou plné domněnek na pozadí, které dávají slovům relevanci. Denning poznamenává, že tento kontext je nekonečný a fraktální.
Jeden předpoklad je založen na předchozím rozhovoru, který je zase založen na jiném, pokračující do nekonečna.
Kultura je toho součástí. Hodnoty. Normy. Historická paměť. Vztahy založené na moci nebo péči. Velké jazykové modely nejsou čím dál chytřejší. Škálování neuronových sítí problém neřeší.
“Škálování LLM… jim neumožní získat tělesné lidské znalosti, které nazýváme kulturou.”
Neprojdou Turingovým testem, jak Turing doufal. Nebudou demonstrovat myšlení, které je nerozeznatelné od lidského. Předvedou imitaci, která je pro pozorného pozorovatele k nerozeznání od hluku.
Skutečné bezpečnostní riziko
Jaké je tedy nebezpečí?
Tohle není Skynet. Toto není superinteligence, která plánuje ovládnout svět.
Bezprostřední hrozba pochází ze sítě strojů, které jsou méně inteligentní než lidé. Agenti, kteří jednají nepředvídatelně. Nerozumí nevysloveným lidským pokynům. Nechápou nuance bezpečnosti. Nestarají se o nás.
Denning popisuje situaci vzájemného nedorozumění. Stroje rozvíjejí svůj vlastní typ tichých znalostí. Nemůžeme to přečíst. Neumějí číst naše. Stáváme se navzájem cizími za nepřekonatelnou hranicí.
Strojová inteligence má jiné zájmy. Cizí metody řešení problémů. Nepředvídatelné chování.
Abychom se dostali za myšlenku automatizace vedoucí k singularitě, musíme uznat něco, co je nepříjemné. Naše známá kultura mizí. Co bude dál, nevíme.
Musíme přestat myslet jako stroje. Odmítnout podání. Znovu potvrďte svou lidskost. Oslavte to, co nás odlišuje.
Protože alternativou není povstání robotů. Toto je svět, kde jsme nepochopeni nástroji, které jsme sami vytvořili. A stroje se nestarají natolik, aby se pokusily nás pochopit.
