Peter Denning neemt geen blad voor de mond. Als vooraanstaand computerwetenschapper en auteur van de nieuwe analyse Turing’s Mistake: Escaping the Yoke of Unintelligent machines stelt hij dat het hele veld van de kunstmatige intelligentie sinds 1950 de verkeerde kant op is gegaan.
Alan Turing. De vader van de theoretische informatica. Hij stelde voor dat de intelligentie van een machine kon worden beoordeeld aan de hand van hoe goed deze menselijke gesprekken nabootste – de beroemde Turing-test. Decennia lang was dit idee een evangelie. Het suggereerde dat intelligentie kon worden losgekoppeld van het lichaam, kon worden gereduceerd tot software en op elke digitale computer kon worden uitgevoerd.
Denning is het daar niet mee eens. Scherp.
Deze twee beweringen, zo schrijft hij, “hebben een groot deel van het onderzoek en de ontwikkeling op het gebied van AI gevormd.” En ze hebben ons in een puinhoop gebracht. We bouwen systemen die er slim uitzien, maar niet denken. Niet echt. Ze begrijpen het niet. Ze voelen niet. En ze zijn juist gevaarlijk omdat ze niet menselijk zijn.
De kloof in stilzwijgende kennis
De kern van Dennings betoog berust op één ongrijpbaar concept: stilzwijgende kennis.
Wat is het? Het is de enorme hoeveelheid begrip die je bezit, maar die je niet onder woorden kunt brengen. Het is het spiergeheugen van een pianist. Het instinct van een chirurg. De gedeelde culturele context die je een grap vertelt, is grappig versus aanstootgevend. Je hebt het. Machines niet.
Denning identificeert vijf vormen van deze kennis die momenteel aan machinaal leren ontsnappen:
- Gezond verstand
- Dagelijkse interacties met mensen en omgevingen
- Gevoelens en percepties
- Praktische vaardigheden
- Culturele en historische achtergrond
We hebben geprobeerd dit op te lossen. In de jaren tachtig. Douglas Lenat startte het Cyc-project, een ambitieuze poging om een enorme database met op gezond verstand gebaseerde feiten voor computers op te bouwen. Veertig jaar later, na 25 miljoen inzendingen, viel het oordeel. Het was nog steeds niet genoeg.
“Cyc bevestigde dat een groot deel van de kennis die mensen tot deskundigen maakt, niet als propositionele feiten kan worden verwoord.”
Denning merkt dit duidelijk op. Zelfs die enorme schat aan feiten zorgde niet voor echte expertise. Je kunt opslaan wat iets is. Je kunt hoe om een expert te zijn niet opslaan.
Weten versus weten hoe
Praktische vaardigheid is het obstakel.
“Terwijl beschrijvingen van bekwame resultaten vaak kunnen worden weergegeven als bits,” legt Denning uit, “weten we niet hoe we de belichaamde kennis moeten coderen voor bekwame prestaties.”
Er is een verschil tussen weten wat en weten hoe. Een virtuoze violist speelt prachtige muziek. Vraag hen om precies te beschrijven hoe ze het geluid moeten produceren op een manier die een ander mens kan nabootsen. Het is bijna onmogelijk. De kennis zit in de vingers. In het oor. In het lichaam.
Stop dat in een robot. Zelfs eentje met een fysieke vorm die een mens nabootst. Het kan het gevoel nog steeds niet bevatten. Het kan de beweging imiteren. Maar het zal de muziek niet voelen. Of het publiek.
Intuïtie, spontaniteit, verbeeldingskracht – deze verzetten zich tegen reductie tot code.
Het representatieprobleem
Hier is het technische probleem: computers verwerken alleen gegevens die in fysieke vorm zijn gecodeerd. Binair. Symbolen.
Stilzwijgende kennis past niet in dat plaatje.
“Woorden zijn slechts symbolische representaties van betekenissen… ze kunnen de betekenis van wat ze zeggen niet kennen of begrijpen.”
Dit is de reden waarom grote taalmodellen (LLM’s) zoals ChatGPT of Gemini beperkt zijn. Ze manipuleren symbolen. Ze kennen de betekenis erachter niet.
Achter elk woord schuilt een bron van stilzwijgende kennis. Wetenschappers begrijpen niet volledig hoe die kennis in het menselijk brein wordt gehost. We weten dat het belichaamd is. Maar we kunnen het niet waarnemen. We kunnen het niet meten. We kunnen het dus niet overdragen.
Hierdoor ontstaat een onoverbrugbare kloof.
Waarom context alles verandert
Betekenis is niet statisch. Het is vloeibaar. Het hangt af van de context.
Een verklaring verandert volledig als de spreker sarcastisch is in plaats van oprecht. Speels in plaats van boos. Menselijke gesprekken zijn gelaagd met achtergrondaannames die woorden hun relevantie geven. Denning wijst erop dat deze context eindeloos en fractaal is.
De ene veronderstelling berust op een eerder gesprek, en die berust op een ander gesprek, dat voor altijd teruggaat.
Cultuur is hier een onderdeel van. Waarden. Normen. Geschiedenissen. Relaties waarbij macht of zorg betrokken zijn. Grote taalmodellen worden niet slimmer. Het opschalen van neurale netwerken lost het probleem niet op.
“Het opschalen van LLM’s… zal hen niet in staat stellen de belichaamde menselijke kennis te verwerven die wij cultuur noemen.”
Ze zullen de Turing-test niet doorstaan op de manier waarop Turing had gehoopt. Ze zullen geen denken demonstreren dat niet te onderscheiden is van het menselijk denken. Ze zullen voor iedereen die oplet een nabootsing demonstreren die niet te onderscheiden is van lawaai.
Het echte veiligheidsrisico
Dus wat is het gevaar?
Het is Skynet niet. Het is geen superintelligentie die de macht wil overnemen.
De directe dreiging is een netwerk van machines die minder intelligent zijn dan mensen. Agentische systemen werken onvoorspelbaar. Ze begrijpen geen onuitgesproken menselijke instructies. Ze begrijpen de nuance van veiligheid niet. Ze geven niets om ons.
Denning beschrijft een wederzijds onbegrip. Machines ontwikkelen hun eigen soort stilzwijgende kennis. Wij kunnen die van hen niet lezen. Ze kunnen de onze niet lezen. Wij zijn buitenaardse wezens voor elkaar, over een onoverbrugbare kloof heen.
Machine-intelligentie heeft verschillende zorgen. Buitenaardse probleemoplossende stijlen. Onvoorspelbaar gedrag.
Als we ons terugtrekken uit een automatiseringssingulariteit, moeten we iets ongemakkelijks toegeven. Onze vertrouwde cultuur is aan het vervagen. We weten niet wat er gaat gebeuren.
We moeten weigeren te denken als machines. Weigeren onderdanigheid. Bevestig onze menselijkheid opnieuw. Vier wat ons anders maakt.
Omdat het alternatief geen robotopstand is. Het is een wereld waarin we verkeerd worden begrepen door de instrumenten die we hebben gebouwd. En de machines geven er niet genoeg om om het te proberen.
