Peter Denning nie wybiera łatwego wyjścia. Wybitny informatyk i autor nowego badania „Błąd Turinga: uwolnienie się od jarzma nieinteligentnych maszyn” twierdzi, że od 1950 roku cała dziedzina sztucznej inteligencji zmierza w złym kierunku.
Alana Turinga. Ojciec informatyki teoretycznej. Zaproponował ocenę inteligencji maszyny na podstawie tego, jak dobrze naśladuje ona ludzką mowę – słynny „test Turinga”. Przez dziesięciolecia pogląd ten uznawano za niepodważalną prawdę. Wierzono, że intelekt można oddzielić od ciała, sprowadzić do kodu programu i uruchomić na dowolnym komputerze cyfrowym.
Denning zdecydowanie się z tym nie zgadza.
W swojej analizie pisze, że te dwie idee „zdefiniowały znaczną część badań i rozwoju sztucznej inteligencji”. I to doprowadziło nas w ślepy zaułek. Budujemy systemy, które wydają się inteligentne, ale w rzeczywistości nie myślą. Oni nie rozumieją. Nie czują. A są niebezpieczni właśnie dlatego, że nie są ludźmi.
Luka w wiedzy ukrytej
Argument Denninga opiera się na jednej ewolucyjnie nieuchwytnej koncepcji: wiedzy ukrytej.
Co to jest? To ogromna ilość zrozumienia, które posiadasz, ale nie możesz wyrazić słowami. To jest pamięć mięśniowa pianisty. Instynkt chirurga. Powszechna podstawa kulturowa sugerująca, że żart jest zabawny, a nie obraźliwy. Mamy to. Samochody tego nie mają.
Denning identyfikuje pięć form tej wiedzy, które nie są jeszcze dostępne w uczeniu maszynowym:
- Zdrowy rozsądek
- Codzienna interakcja z ludźmi i środowiskiem
- Wrażenia i spostrzeżenia
- Umiejętności praktyczne
- Kontekst kulturowy i historyczny
Próbowaliśmy rozwiązać ten problem. Jeszcze w latach 80. Douglas Lenat rozpoczął Projekt Cyc, ambitną próbę stworzenia gigantycznej bazy danych zawierającej zdroworozsądkowe fakty dla komputerów. Czterdzieści lat później, po 25 milionach wpisów, zapadł wyrok: to wciąż za mało.
„Projekt Cyc potwierdził, że dużej części wiedzy, która czyni człowieka ekspertem, nie można sformułować w formie logicznych faktów.”
Denning podkreśla tę kwestię bez ogródek. Nawet tak ogromna skarbnica faktów nie tworzy prawdziwego mistrzostwa. Możesz zapamiętać który jest który. Ale nie możesz przechowywać jak być ekspertem.
Wiedza o tym kontra wiedza jak
Umiejętności praktyczne stają się przeszkodą nie do pokonania.
„Chociaż opisy wyników mistrzostwa często można przedstawić w postaci fragmentów danych” – wyjaśnia Denning, „nie wiemy, jak zakodować wiedzę cielesną niezbędną do osiągnięcia mistrzostwa ”.
Istnieje różnica pomiędzy wiedzą co a wiedzą jak. Wirtuoz skrzypiec tworzy piękną muzykę. Spróbuj poprosić go, aby dokładnie opisał, jak stworzyć dźwięk, aby inna osoba mogła go odtworzyć. To praktycznie niemożliwe. Wiedza jest w palcach. W uchu. W ciele.
Umieść go w robocie. Nawet jeśli ma fizyczną formę imitującą człowieka. Nadal nie rozumie tego uczucia. Będzie mógł skopiować ruch. Ale on nie poczuje muzyki. Albo reakcja opinii publicznej.
Intuicja, spontaniczność, wyobraźnia – to wszystko opiera się redukcji do kodu.
Problem reprezentacji
Oto kwestia techniczna: komputery przetwarzają wyłącznie dane zakodowane w formie fizycznej. Kody binarne. Symbolika.
Wiedza ukryta nie pasuje do tego schematu.
„Słowa są jedynie symboliczną reprezentacją znaczeń… nie mogą poznać ani zrozumieć znaczenia tego, co mówią.”
Właśnie dlatego duże modele językowe (LLM), takie jak ChatGPT lub Gemini, mają ograniczenia. Manipulują symbolami. Nie znają znaczenia, które się za nimi kryje.
Za każdym słowem kryje się ocean ukrytej wiedzy. Naukowcy wciąż nie do końca rozumieją, w jaki sposób ta wiedza jest przechowywana w ludzkim mózgu. Wiemy, że jest ono ucieleśnione w ciele. Ale nie możemy tego zaobserwować. Nie możemy tego zmierzyć. Dlatego nie możemy go przenieść.
Tworzy to przepaść nie do pokonania.
Dlaczego kontekst zmienia wszystko
Wartość nie jest statyczna. To jest płynne. To zależy od kontekstu.
Stwierdzenie całkowicie zmienia swoje znaczenie, jeśli mówiący jest ironiczny, a nie szczery. On żartuje, nie jest zły. Ludzkie rozmowy są pełne założeń, które nadają słowom znaczenie. Denning zauważa, że ten kontekst jest nieskończony i fraktalny.
Jedno założenie opiera się na poprzedniej rozmowie, która z kolei opiera się na innej, ciągnącej się w nieskończoność.
Kultura jest jego częścią. Wartości. Normy. Pamięć historyczna. Relacje oparte na władzy lub trosce. Duże modele językowe nie stają się coraz mądrzejsze. Skalowanie sieci neuronowych nie rozwiązuje problemu.
„Skalowanie LLM… nie pozwoli im zdobyć cielesnej wiedzy ludzkiej, którą nazywamy kulturą ”.
Nie przejdą testu Turinga, jak Turing miał nadzieję. Nie będą wykazywać myślenia nieodróżnialnego od ludzkiego. Zademonstrują imitację, która dla uważnego obserwatora będzie nieodróżnialna od hałasu.
Prawdziwe zagrożenie bezpieczeństwa
Jakie jest zatem niebezpieczeństwo?
To nie jest Skynet. To nie jest superinteligencja planująca przejąć władzę nad światem.
Bezpośrednie zagrożenie pochodzi ze strony sieci maszyn, które są mniej inteligentne od ludzi. Agenci, którzy działają nieprzewidywalnie. Nie rozumieją niewypowiedzianych ludzkich instrukcji. Nie rozumieją niuansów bezpieczeństwa. Nie dbają o nas.
Denning opisuje sytuację wzajemnego niezrozumienia. Maszyny rozwijają swój własny rodzaj wiedzy ukrytej. Nie możemy tego przeczytać. Nie potrafią przeczytać naszych. Stajemy się sobie obcy poza granicę nie do pokonania.
Inteligencja maszynowa ma inne zainteresowania. Obce metody rozwiązywania problemów. Nieprzewidywalne zachowanie.
Aby zapomnieć o idei automatyzacji prowadzącej do osobliwości, musimy przyznać się do czegoś, co jest niewygodne. Nasza znana kultura zanika. Nie wiemy, co będzie dalej.
Musimy przestać myśleć jak maszyny. Odmówić poddania się. Umacniaj swoje człowieczeństwo. Celebruj to, co nas wyróżnia.
Bo alternatywą nie jest powstanie robotów. To świat, w którym jesteśmy źle rozumiani przez narzędzia, które sami stworzyliśmy. A maszynom nie zależy na tyle, aby podjąć jakąkolwiek próbę zrozumienia nas.
