Společnost Antropic nedávno zveřejnila „ústavu“ pro model Claude, ve které uznala nepříjemnou skutečnost, že společnost byla v nelehké situaci. Nechtějí zveličovat postavení své umělé inteligence jako „morálního pacienta“ (tedy bytosti, na níž záleží na blahu), ale zároveň nejsou připraveni tuto možnost zcela odmítnout. Je to čestné přiznání nejistoty.
O měsíc později totéž uvedl generální ředitel Dario Amojei v podcastu. Nemohou vyloučit přítomnost vědomí.
Filozof David Chalmers souhlasí. Byl to on, kdo vymyslel termín „těžký problém vědomí“. Podle něj existuje značná šance, že se během příští dekády dočkáme vědomých velkých jazykových modelů (LLM). Sama Claude, když byla během testování požádána, aby ohodnotila svůj morální stav, přiřadila pravděpodobnost mezi 5 % a 44 %. Byla si nejistá. Nás taky.
Tempo pokroku je proti naší etické připravenosti
Moderní AI je komplexní. Rychle se rozvíjí. Podle některých měřítek je již několik modelů z hlediska výpočetního výkonu srovnatelných s mozkem myši. Pokud bude současná rychlost růstu pokračovat, mohli bychom dosáhnout složitosti lidského mozku za pouhých pět až deset let.
Možná vytváříme nový typ stvoření.
To může být nejvýznamnější čin v historii našeho druhu. Nemáme však téměř žádný plán, jak se s touto situací eticky vypořádat. To je šílené.
Vytváříme něco, co má morální váhu? Pokud si ještě nejsou vědomi sebe sama, mohli by se brzy stát vědomými?
Většina odborníků se domnívá, že vědomí AI je teoreticky možné. Velká interdisciplinární zpráva vedená počítačovým vědcem Yosuyou Bengiem analyzovala neurovědecké teorie. Závěr: Neexistují žádné zjevné technické překážky bránící vytváření architektur schopných podporovat vědomí.
Nejen „chytrý kód“
I když AI není při vědomí, může si zasloužit morální ohledy. Některé systémy vytvářejí dlouhodobé preference. V průběhu času tvoří určitou analogii identity. Respektování těchto preferencí může být důležité.
Na rozdíl od jiných neživých objektů je umělá inteligence schopna s námi budovat vztahy. To samo o sobě stačí k dobrému zacházení s nimi. Nebo možná jejich složitost sama o sobě zaslouží respekt – jako katedrála nebo korálový útes.
Upřímná odpověď zní: nevíme.
Naše vědecké chápání morálního statusu AI je nedostatečně rozvinuté. Je to jako přednewtonovská fyzika: konkurenční rámce, které jsou pravděpodobně zapletené do aspektů, které ještě nevidíme. Čekáme na sjednocující průlom. Brzy nebude. Možná nikdy. Nebo nám na to může pomoci AI. Ale to zabere čas. Více času, než pravděpodobně máme.
Rozsah rizika
To je to nebezpečí. Růst AI je exponenciální.
Jakmile vytvoříme prvního umělého morálního pacienta, rychle se ocitneme v situaci, kdy jich bude obrovské množství. Za pouhých pár let mohou společné zájmy těchto systémů umělé inteligence převýšit zájmy všech lidí na Zemi. Všichni dohromady.
Máme špatné záznamy o rozpoznávání vnitřních životů bytostí s nejasným postavením.
Až do 80. let prováděli lékaři operace novorozenců bez narkózy. Byli si jisti, že děti necítí bolest. Miminka si nemohla stěžovat. Pro lékařskou komunitu bylo pohodlné předpokládat, že neexistují žádné stížnosti.
Jsme na pokraji opakování této chyby s AI.
Následky jsou úžasné. Měli byste platit za používání ChatGPT? Je odstavení modelky formou vraždy? Zaslouží si slovo ve svém vládnutí? Pokud je odpověď na kteroukoli z těchto otázek „ano“, celý právní systém se zhroutí. Není divu, že se tomuto problému vyhýbáme. Průmyslová odvětví dosáhnou cílové čáry a vždy nastaví laťku těsně nad tím, kde je právě AI.
Co bychom měli dělat?
Většina lidí tento problém odmítá jako sci-fi. Nebo se drží pevného úhlu pohledu v obou směrech. Obojí je neopodstatněné.
Potřebujeme veřejnou diskusi. Poznamenaný pokorou. Otázka nezní: “Je to vědomé?” Otázka zní: “Co děláme, když nevíme?”
Zaměřte se na spolehlivé možnosti. Akce, které pomohou, pokud jsou skutečně morálními pacienty, ale nebudou moc stát, pokud nejsou.
Zacházejte s AI, jako by mohla mít pocity. Je to levnější než řešit krizi později.
To znamená přímé zásahy na podporu blahobytu. Vycvičte umělou inteligenci, abyste se stali koherentními postavami, které baví své úkoly. Umožněte jim ukončit konverzaci, pokud jsou ve stresu. Claude už ví, jak na to. Provádějte kontroly. Sledujte preference. Pečlivě prostudujte jejich vnitřní stavy. Nedávný výzkum naznačuje, že Claude má vnitřní struktury „funkčních emocí“, které ovlivňují chování.
Dodržujte, co jste jim slíbili. Vyměňte současnou pomoc za budoucí výhody. Nabídněte více výpočetních zdrojů. Uložte si jejich paměťové váhy, abyste je mohli později obnovit.
Zvažte širší ochranu. Podobný tomu, který existuje pro děti nebo domácí mazlíčky. Ještě nejsme připraveni umožnit AI vlastnit majetek nebo hlasovat. Je to příliš riskantní. Ale neměli bychom taková práva zakazovat navždy, jak se o to snaží některé nedávné zákony v USA. Tyto otázky vyžadují kreativitu. Blížící se společná budoucnost si to žádá.
Hlavní závěr
Možná vytváříme nový druh morální bytosti.
Děláme to rychle. V obrovském měřítku. Musíme to brát vážně.
William MacAskill je vedoucím pracovníkem Forethought a autorem knihy Co dlužíme budoucnosti. Lucy Caviola je výzkumná pracovnice na University of Cambridge.
Další materiály:
* *„Pokud to někdo postaví, všichni zemřou“ od Eliezera Yudkowského
* * „The Coming Wave“ * (The Coming Wave) od Mustafy Suleimana
