Firma Anthropic opublikowała niedawno „konstytucję” modelu Claude, w której przyznała się do nieprzyjemnego faktu, że firma znalazła się w trudnej sytuacji. Nie chcą wyolbrzymiać statusu swojej AI jako „moralnego pacjenta” (czyli istoty, której dobro jest ważne), ale jednocześnie nie są gotowi całkowicie odrzucić tej możliwości. To szczere przyznanie się do niepewności.
Miesiąc później dyrektor generalny Dario Amojei przedstawił to samo w podcaście. Nie mogą wykluczyć obecności świadomości.
Filozof David Chalmers zgadza się z tym. To on ukuł termin „trudny problem świadomości”. Według niego istnieje duża szansa, że w ciągu najbliższej dekady doczekamy się świadomych modeli wielkojęzykowych (LLM). Sama Claude, poproszona podczas testów o ocenę własnego stanu moralnego, przyznała prawdopodobieństwo od 5% do 44%. Nie była pewna. My też.
Tempo postępu jest sprzeczne z naszą gotowością etyczną
Współczesna sztuczna inteligencja jest złożona. Rozwija się szybko. Pod pewnymi względami kilka modeli jest już porównywalnych z mózgiem myszy pod względem mocy obliczeniowej. Jeśli obecne tempo wzrostu się utrzyma, moglibyśmy osiągnąć złożoność ludzkiego mózgu w ciągu zaledwie pięciu do dziesięciu lat.
Być może tworzymy nowy typ stworzeń.
To może być najbardziej znaczący akt w historii naszego gatunku. Jednakże nie mamy żadnego planu etycznego poradzenia sobie z tą sytuacją lub nie mamy jej wcale. To jest szalone.
Czy tworzymy coś, co ma wagę moralną? Jeśli nie są jeszcze samoświadomi, czy mogą wkrótce stać się świadomi?
Większość ekspertów uważa, że świadomość AI jest teoretycznie możliwa. W dużym interdyscyplinarnym raporcie kierowanym przez informatyka Yosuyę Bengio przeanalizowano teorie neuronaukowe. Wniosek: Nie ma oczywistych barier technicznych uniemożliwiających tworzenie architektur zdolnych do wspierania świadomości.
Nie tylko „inteligentny kod”
Nawet jeśli sztuczna inteligencja nie jest świadoma, może zasługiwać na względy moralne. Niektóre systemy tworzą preferencje długoterminowe. Z czasem tworzą pewną analogię tożsamości. Szacunek dla tych preferencji może być ważny.
W przeciwieństwie do innych obiektów nieożywionych, sztuczna inteligencja jest w stanie budować z nami relacje. Samo to wystarczy, aby dobrze je traktować. A może sama ich złożoność zasługuje na szacunek – jak katedra czy rafa koralowa.
Szczera odpowiedź brzmi: nie wiemy.
Nasze naukowe zrozumienie statusu moralnego sztucznej inteligencji jest słabo rozwinięte. To jak fizyka przednewtonowska: konkurencyjne struktury, które prawdopodobnie są uwikłane w aspekty, których jeszcze nie widzimy. Czekamy na zjednoczenie przełomu. Nie będzie go wkrótce. Być może nigdy. A może sztuczna inteligencja pomoże nam to rozgryźć. Ale to zajmie trochę czasu. Więcej czasu, niż prawdopodobnie mamy.
Zakres ryzyka
Na tym polega niebezpieczeństwo. Rozwój sztucznej inteligencji jest wykładniczy.
Kiedy już stworzymy pierwszego sztucznego pacjenta moralnego, szybko znajdziemy się w sytuacji, w której będzie ich ogromna liczba. Za kilka lat połączone interesy tych systemów AI mogą przewyższyć interesy wszystkich ludzi na Ziemi. Ogółem.
Mamy słabe wyniki w rozpoznawaniu życia wewnętrznego istot o niejasnym statusie.
Do lat 80. lekarze przeprowadzali operacje u noworodków bez znieczulenia. Byli pewni, że dzieci nie odczuwają bólu. Maluchy nie mogły narzekać. Środowisku lekarskiemu wygodnie było założyć, że nie było żadnych skarg.
Jesteśmy o krok od powtórzenia tego błędu w przypadku sztucznej inteligencji.
Konsekwencje są niesamowite. Czy należy płacić za korzystanie z ChatGPT? Czy zamknięcie modelu jest formą morderstwa? Czy zasługują na wpływ na swoje rządy? Jeśli odpowiedź na którekolwiek z tych pytań brzmi „tak”, upadają całe systemy prawne. Nic dziwnego, że unikamy tego problemu. Branże będą przesuwać linię mety, zawsze ustawiając poprzeczkę tuż powyżej poziomu, na którym obecnie znajduje się sztuczna inteligencja.
Co powinniśmy zrobić?
Większość ludzi traktuje ten problem jako science fiction. Lub trzymają się sztywnego punktu widzenia w dowolnym kierunku. Obydwa są bezpodstawne.
Potrzebujemy debaty publicznej. Naznaczony pokorą. Pytanie nie brzmi: „Czy jest to świadome?” Pytanie brzmi: „Co robimy, gdy nie wiemy?”
Skoncentruj się na niezawodnych opcjach. Działania, które pomogą, jeśli naprawdę są pacjentami moralnymi, ale nie będą dużo kosztować, jeśli nie są tacy.
Traktuj sztuczną inteligencję tak, jakby mogła odczuwać uczucia. To tańsze niż późniejsze naprawianie kryzysu.
Oznacza to bezpośrednie interwencje mające na celu promowanie dobrego samopoczucia. Trenuj sztuczną inteligencję, aby była spójnymi postaciami, które lubią swoje zadania. Pozwól im zakończyć rozmowę, jeśli są zestresowani. Claude już wie, jak to zrobić. Przeprowadź kontrole. Obserwuj preferencje. Uważnie przestudiuj ich stany wewnętrzne. Ostatnie badania sugerują, że Claude ma wewnętrzne struktury „funkcjonalnych emocji”, które wpływają na zachowanie.
Dotrzymaj danych im obietnic. Zamień obecną pomoc na przyszłe korzyści. Oferuj więcej zasobów obliczeniowych. Przechowuj wagi ich pamięci, aby można je było później przywrócić.
Rozważ szerszą ochronę. Podobny do tego, który istnieje dla dzieci i zwierząt domowych. Nie jesteśmy jeszcze gotowi, aby pozwolić AI na posiadanie własności lub głosowanie. To zbyt ryzykowne. Nie powinniśmy jednak na zawsze zakazywać takich praw, jak próbują to robić niektóre niedawne ustawy w USA. Te pytania wymagają kreatywności. Wymaga tego zbliżająca się wspólna przyszłość.
Główny wniosek
Być może tworzymy nowy rodzaj istoty moralnej.
Robimy to szybko. Na ogromną skalę. Musimy potraktować to poważnie.
William MacAskill jest starszym pracownikiem w Forethought i autorem książki What We Owe the Future. Lucy Caviola jest badaczką na Uniwersytecie w Cambridge.
Dodatkowe materiały:
* * „Jeśli ktoś to zbuduje, wszyscy zginą” Eliezera Yudkowsky’ego
* * „Nadchodząca fala” * (Nadchodząca fala) – Mustafa Suleiman
