Peter Denning ne mâche pas ses mots. Un éminent informaticien et auteur de la nouvelle analyse L’erreur de Turing : échapper au joug des machines inintelligentes, il soutient que l’ensemble du domaine de l’intelligence artificielle marche dans la mauvaise direction depuis 1950.
Alan Turing. Le père de l’informatique théorique. Il a proposé que l’intelligence d’une machine puisse être jugée par la façon dont elle imite la conversation humaine – le fameux test de Turing. Pendant des décennies, cette idée a été un évangile. Il suggérait que l’intelligence pouvait être découplée du corps, réduite à un logiciel et exécutée sur n’importe quel ordinateur numérique.
Denning n’est pas d’accord. Nettement.
Ces deux affirmations, écrit-il, « ont façonné une grande partie de la recherche et du développement en IA ». Et ils nous ont mis dans le pétrin. Nous construisons des systèmes qui semblent intelligents mais qui ne réfléchissent. Pas vraiment. Ils ne comprennent pas. Ils ne ressentent pas. Et ils sont dangereux précisément parce qu’ils ne sont pas humains.
Le manque de connaissances tacites
Le cœur de l’argumentation de Denning repose sur un concept insaisissable : la connaissance tacite.
Qu’est-ce que c’est? C’est l’énorme quantité de compréhension que vous possédez mais que vous ne pouvez pas exprimer avec des mots. C’est la mémoire musculaire d’un pianiste. L’instinct d’un chirurgien. Le contexte culturel partagé qui vous raconte une blague est drôle ou offensant. Vous l’avez. Ce n’est pas le cas des machines.
Denning identifie cinq formes de ces connaissances qui échappent actuellement à l’apprentissage automatique :
- Le bon sens
- Interactions quotidiennes avec les personnes et les environnements
- Sentiments et perceptions
- Compétences pratiques
- Contexte culturel et historique
Nous avons essayé de résoudre ce problème. Dans les années 1980. Douglas Lenat a lancé le projet Cyc, une tentative ambitieuse de créer une base de données massive de faits de bon sens pour les ordinateurs. Quarante ans plus tard, après 25 millions d’entrées, le verdict était tombé. Ce n’était toujours pas suffisant.
“Cyc a validé qu’une grande partie des connaissances qui font des gens des experts ne peuvent pas être articulées sous forme de faits propositionnels.”
Denning le note clairement. Même cet immense trésor de faits n’a pas créé une véritable expertise. Vous pouvez stocker ce qu’est quelque chose. Vous ne pouvez pas stocker comment être un expert.
Savoir ou savoir comment
La compétence pratique est l’obstacle.
“Alors que les descriptions des résultats habiles peuvent souvent être représentées comme des fragments”, explique Denning, “nous ne savons pas comment encoder les connaissances incarnées pour une performance habile.”
Il y a une différence entre savoir quoi et savoir comment. Un violoniste virtuose joue de la belle musique. Essayez de leur demander de décrire exactement comment produire le son d’une manière qu’un autre humain peut reproduire. C’est presque impossible. La connaissance est entre les doigts. Dans l’oreille. Dans le corps.
Mettez ça dans un robot. Même avec une forme physique qui imite un humain. Il ne saisira toujours pas ce sentiment. Il peut imiter le mouvement. Mais il ne ressentira pas la musique. Ou le public.
Intuition, spontanéité, imagination, celles-ci résistent à la réduction au code.
Le problème de la représentation
Voici le problème technique : les ordinateurs traitent uniquement les données codées sous forme physique. Binaire. Symboles.
La connaissance tacite ne rentre pas dans ce moule.
“Les mots ne sont que des représentations symboliques de sens… ils ne peuvent pas connaître ou comprendre le sens de ce qu’ils disent.”
C’est pourquoi les grands modèles linguistiques (LLM) comme ChatGPT ou Gemini sont limités. Ils manipulent les symboles. Ils ne connaissent pas la signification derrière eux.
Derrière chaque mot se cache un puits de connaissance tacite. Les scientifiques ne comprennent pas vraiment comment ces connaissances sont hébergées dans le cerveau humain. Nous savons qu’il est incarné. Mais nous ne pouvons pas l’observer. Nous ne pouvons pas le mesurer. Nous ne pouvons donc pas le transférer.
Cela crée un fossé infranchissable.
Pourquoi le contexte change tout
Le sens n’est pas statique. C’est fluide. Cela dépend du contexte.
Une déclaration change complètement si l’orateur est sarcastique plutôt que sincère. Enjoué plutôt qu’en colère. Les conversations humaines sont superposées à des hypothèses de fond qui donnent aux mots leur pertinence. Denning souligne que ce contexte est infini et fractal.
Une hypothèse repose sur une conversation antérieure, qui repose sur une autre, remontant à jamais.
La culture en fait partie. Valeurs. Normes. Histoires. Relations impliquant le pouvoir ou le soin. Les grands modèles de langage ne deviennent pas plus intelligents. La mise à l’échelle des réseaux de neurones ne résout pas le problème.
« Développer les LLM… ne leur permettra pas d’acquérir les connaissances humaines incarnées que nous appelons culture. »
Ils ne réussiront pas le test de Turing comme Turing l’espérait. Ils ne démontreront pas une pensée impossible à distinguer de la pensée humaine. Ils feront preuve d’un mimétisme impossible à distinguer du bruit à quiconque y prête attention.
Le vrai risque pour la sécurité
Alors quel est le danger ?
Ce n’est pas Skynet. Il ne s’agit pas d’une superintelligence qui complote pour prendre le relais.
La menace immédiate est un réseau de machines moins intelligentes que les humains. Systèmes agents agissant de manière imprévisible. Ils ne comprennent pas les instructions humaines tacites. Ils ne saisissent pas la nuance de la sécurité. Ils ne se soucient pas de nous.
Denning décrit une incompréhension mutuelle. Les machines développent leur propre type de connaissances tacites. Nous ne pouvons pas lire les leurs. Ils ne peuvent pas lire le nôtre. Nous sommes étrangers les uns aux autres à travers un fossé infranchissable.
L’intelligence artificielle a des préoccupations différentes. Styles de résolution de problèmes extraterrestres. Comportements imprévisibles.
S’éloigner d’une singularité de l’automatisation nous oblige à admettre quelque chose de inconfortable. Notre culture familière s’estompe. Nous ne savons pas ce qui va suivre.
Nous devons refuser de penser comme des machines. Refusez la soumission. Réaffirmer notre humanité. Célébrez ce qui nous différencie.
Parce que l’alternative n’est pas un soulèvement de robots. C’est un monde dans lequel nous sommes incompris par les outils mêmes que nous avons construits. Et les machines ne s’en soucient pas assez pour essayer.
