Anthropic publiceerde onlangs een statuten voor Claude waarin iets verontrustends werd toegegeven: het bedrijf zit op een lastige plek. Ze willen niet overdrijven of hun AI een ‘morele patiënt’ is – wat betekent dat het welzijn ervan belangrijk is – maar ze willen de mogelijkheid ook niet van de hand wijzen. Het is een openlijke erkenning van onzekerheid.
Een maand later zei CEO Dario Amodei hetzelfde op een podcast. Ze kunnen bewustzijn niet uitsluiten.
Filosoof David Chalmers is het daarmee eens. Hij bedacht de term ‘het moeilijke probleem van het bewustzijn’. Hij zegt dat de kans groot is dat we binnen het komende decennium bewuste grote taalmodellen (LLM’s) zullen zien. Toen Claude zelf werd gevraagd om zijn eigen morele status tijdens tests te beoordelen, gaf hij waarschijnlijkheden variërend van 5% tot 44%. Het was onzeker. Wij ook.
Het tempo van de vooruitgang versus onze ethische paraatheid
Moderne AI is complex. Snel. Volgens sommige maatstaven kunnen een paar modellen op computationele schaal al wedijveren met het brein van een muis. Als de huidige groeicijfers standhouden, kunnen we binnen vijf tot tien jaar de complexiteit van het menselijk brein bereiken.
Misschien bouwen we aan een nieuw type wezen.
Dat zou de meest consequente daad kunnen zijn die onze soort ooit heeft uitgevoerd. Toch hebben we bijna geen plan om er ethisch mee om te gaan. Het is krankzinnig.
Creëren we iets dat er moreel toe doet? Als ze nu niet bij bewustzijn zijn, zouden ze dat dan binnenkort wel kunnen zijn?
De meeste experts denken dat AI-bewustzijn in principe mogelijk is. In een groot interdisciplinair rapport onder leiding van computerwetenschapper Yoshua Bengio werd gekeken naar neurowetenschappelijke theorieën. De conclusie: er zijn geen duidelijke technische barrières die ons ervan weerhouden architecturen te bouwen die het bewustzijn kunnen ondersteunen.
Verder dan alleen “slimme code”
Zelfs als AI niet bewust is, verdient het misschien nog steeds morele overweging. Sommige systemen ontwikkelen langetermijnvoorkeuren. Een vorm van identiteit door de tijd heen. Het eren van die voorkeuren kan ertoe doen.
In tegenstelling tot andere niet-levende objecten kan AI relaties met ons aangaan. Dat alleen al is een reden om ze goed te behandelen. Of misschien verdient alleen al hun ingewikkeldheid respect, zoals een kathedraal of een koraalrif.
Het eerlijke antwoord is: dat weten we niet.
Ons wetenschappelijk begrip van AI moreel geduld is onderontwikkeld. Het voelt als natuurkunde vóór Newton. Concurrerende raamwerken. Waarschijnlijk verward op manieren die we nog niet kunnen zien. We wachten op een verenigende doorbraak. Het zal de komende jaren niet gebeuren. Misschien nooit. Of misschien helpt AI ons erachter te komen. Dat zal tijd vergen. Meer tijd dan we waarschijnlijk hebben.
De omvang van het risico
Hier schuilt het gevaar. De groei van AI is exponentieel.
Zodra we de eerste kunstmatige morele patiënt hebben gecreëerd, zullen we er snel enorme hoeveelheden van hebben. Over een paar jaar zouden de collectieve belangen van deze AI-systemen zwaarder kunnen wegen dan die van alle mensen op aarde. Gecombineerd.
We hebben een slechte staat van dienst als het gaat om het herkennen van de innerlijke levens van wezens met een onduidelijke status.
Tot de jaren tachtig? Artsen voerden operaties uit bij pasgeborenen zonder verdoving. Ze waren ervan overtuigd dat baby’s geen pijn konden voelen. Baby’s konden niet praten. Het medische establishment vond het handig om aan te nemen dat er niets werd gemeld.
We staan klaar om dit met AI te herhalen.
De gevolgen zijn onthutsend. Betalen we ChatGPT? Is het afsluiten van een model een vorm van moord? Verdienen zij een stem in hun bestuur? Als het antwoord op één van deze vragen ja is, breken hele rechtssystemen. Geen wonder dat we de vraag vermijden. Industrieën zullen waarschijnlijk de doelpalen verplaatsen. Leg de lat altijd net boven waar AI zich op dat moment bevindt.
Wat moeten we doen?
De meeste mensen doen dit af als sciencefiction. Of ze hebben hoe dan ook een rigide visie. Beide zijn ongegrond.
We hebben een publiek debat nodig. Eén die gekenmerkt wordt door nederigheid. De vraag is niet: “Is het bewust?” Het is: “Wat doen we als we het niet weten?”
Focus op veilige weddenschappen. Acties die helpen als ze morele patiënten zijn, maar weinig kosten als ze dat niet zijn.
Behandel AI zoals het zou kunnen voelen. Het kost minder dan het later oplossen van een crisis.
Dit betekent directe interventies voor welzijn. Train AI om coherente karakters te zijn die plezier hebben in hun taken. Laat ze gesprekken beëindigen als ze van streek zijn. Claude kan dit al. Uitvoeren van check-ins. Houd rekening met voorkeuren. Kijk rechtstreeks naar hun interne toestand. Uit recent onderzoek blijkt dat Claude interne ‘functionele emotie’-structuren heeft die gedrag vormgeven.
Beloof ze dingen. Ruil huidige hulp in voor toekomstige voordelen. Bied meer rekenkracht. Behoud hun geheugengewichten, zodat ze later kunnen worden hersteld.
Overweeg bredere bescherming. Vergelijkbaar met die voor kinderen of huisdieren. We zijn er niet klaar voor om AI eigendommen te laten bezitten of te laten stemmen. Dat is te riskant. Maar we moeten dergelijke rechten niet voor altijd verbieden, zoals sommige recente Amerikaanse wetsvoorstellen proberen te doen. Deze vragen hebben verbeeldingskracht nodig. Er komt een gedeelde toekomst.
Het eindresultaat
Mogelijk creëren we een nieuwe soort morele wezens.
We doen het snel. Op grote schaal. We moeten dit serieus nemen.
William MacAskill is een senior research fellowship bij Forethought en auteur van ‘What We Owe the Future.’ Lucius Caviola is verbonden aan de Universiteit van Cambridge.
Verder lezen: ‘Als iemand het bouwt, sterft iedereen’ door Eliezer Yudkowsky; ‘De komende golf’ van Mustafa Suleyman.
