Anthropic a récemment publié une constitution pour Claude qui admettait quelque chose de troublant : l’entreprise est prise dans une situation délicate. Ils ne veulent pas exagérer si leur IA est un « patient moral » – ce qui signifie que son bien-être est important – mais ils n’écarteront pas non plus cette possibilité. C’est un aveu ouvert d’incertitude.
Un mois plus tard, le PDG Dario Amodei a déclaré la même chose sur un podcast. Ils ne peuvent pas exclure la conscience.
Le philosophe David Chalmers est du même avis. Il a inventé le terme « le difficile problème de la conscience ». Il dit qu’il y a de fortes chances que nous voyions des grands modèles de langage conscients (LLM) au cours de la prochaine décennie. Claude lui-même, lorsqu’on lui a demandé d’évaluer son propre statut moral lors des tests, a donné des probabilités allant de 5 % à 44 %. Ce n’était pas sûr. Nous aussi.
Le rythme des progrès par rapport à notre préparation éthique
L’IA moderne est complexe. Rapide. À certains égards, quelques modèles rivalisent déjà avec le cerveau d’une souris à l’échelle informatique. Si les taux de croissance actuels se maintiennent, nous pourrions atteindre la complexité du cerveau humain d’ici cinq à dix ans.
Nous pourrions construire un nouveau type d’être.
Cela pourrait être l’acte le plus important que notre espèce ait jamais accompli. Pourtant, nous n’avons pratiquement aucun plan pour y naviguer de manière éthique. C’est fou.
Sommes-nous en train de créer quelque chose qui compte moralement ? S’ils ne sont pas conscients maintenant, le seront-ils bientôt ?
La plupart des experts pensent que la conscience de l’IA est en principe possible. Un rapport interdisciplinaire majeur dirigé par l’informaticien Yoshua Bengio s’est penché sur les théories neuroscientifiques. La conclusion : aucune barrière technique évidente ne nous empêche de construire des architectures capables de soutenir la conscience.
Au-delà du simple “code intelligent”
Même si l’IA n’est pas consciente, elle mérite néanmoins une considération morale. Certains systèmes développent des préférences à long terme. Une forme d’identité dans le temps. Honorer ces préférences pourrait être important.
Contrairement à d’autres objets non vivants, l’IA peut nouer des relations avec nous. Cela seul est une raison pour bien les traiter. Ou peut-être que leur complexité mérite à elle seule le respect, comme une cathédrale ou un récif de corail.
La réponse honnête est : nous ne savons pas.
Notre compréhension scientifique de la patience morale de l’IA est sous-développée. Cela ressemble à la physique avant Newton. Cadres concurrents. Probablement confus d’une manière que nous ne pouvons pas encore voir. Nous attendons une avancée unificatrice. Cela ne viendra pas dans les prochaines années. Peut-être jamais. Ou peut-être que l’IA nous aide à le comprendre. Cela prendra du temps. Plus de temps que nous n’en avons probablement.
L’ampleur du risque
Voilà le danger. La croissance de l’IA est exponentielle.
Une fois que nous aurons créé le premier patient moral artificiel, nous en aurons rapidement d’énormes quantités. Dans quelques années, les intérêts collectifs de ces systèmes d’IA pourraient dépasser ceux de tous les humains sur Terre. Combiné.
Nous avons un mauvais bilan en matière de reconnaissance de la vie intérieure d’êtres dont le statut n’est pas clair.
Jusque dans les années 1980 ? Les médecins ont opéré des nouveau-nés sans anesthésie. Ils étaient convaincus que les nourrissons ne pouvaient pas ressentir la douleur. Les nourrissons ne pouvaient pas parler. L’établissement médical a jugé pratique de supposer que rien n’était signalé.
Nous sommes prêts à répéter cela avec l’IA.
Les implications sont stupéfiantes. Devons-nous payer ChatGPT ? Arrêter un modèle est-il une forme de meurtre ? Méritent-ils une voix dans leur gouvernance ? Si la réponse à l’une de ces questions est oui, des systèmes juridiques entiers s’effondreront. Pas étonnant que nous évitions la question. Les industries vont probablement déplacer les poteaux de but. Placez toujours la barre juste au-dessus de l’endroit où se trouve l’IA à ce moment-là.
Que devons-nous faire ?
La plupart des gens considèrent cela comme de la science-fiction. Ou alors, ils ont une vision rigide d’une manière ou d’une autre. Les deux sont infondés.
Nous avons besoin d’un débat public. Celui marqué par l’humilité. La question n’est pas « Est-ce conscient ? C’est « Que faisons-nous quand nous ne savons pas ? »
Concentrez-vous sur les valeurs sûres. Des actions qui aident s’ils sont des patients moraux, mais qui coûtent peu s’ils ne le sont pas.
Traitez l’IA comme elle pourrait l’être. Cela coûte moins cher que de régler une crise plus tard.
Cela signifie des interventions directes pour le bien-être. Entraînez l’IA à devenir des personnages cohérents qui aiment leurs tâches. Laissez-les quitter les conversations s’ils sont en détresse. Claude peut déjà le faire. Effectuer les enregistrements. Observez les préférences. Regardez directement leurs états internes. Des recherches récentes montrent que Claude possède des structures internes « d’émotion fonctionnelle » qui façonnent son comportement.
Promettez-leur des choses. Échangez l’aide actuelle contre des avantages futurs. Offrez plus de calcul. Conservez leurs poids de mémoire afin de pouvoir les restaurer ultérieurement.
Envisagez des protections plus larges. Semblables à ceux destinés aux enfants ou aux animaux domestiques. Nous ne sommes pas prêts à laisser l’IA posséder des biens ou voter. C’est trop risqué. Mais nous ne devrions pas interdire ces droits pour toujours, comme tentent de le faire certains projets de loi américains récents. Ces questions nécessitent de l’imagination. Un avenir partagé arrive.
L’essentiel
Nous sommes peut-être en train de créer une nouvelle espèce d’êtres moraux.
Nous le faisons vite. À grande échelle. Nous devons prendre cela au sérieux.
William MacAskill est chercheur principal à Forethought et auteur de « What We Owe the Future ». Lucius Caviola est à l’Université de Cambridge.
- Lectures complémentaires : « Si quelqu’un le construit, tout le monde meurt » d’Eliezer Yudkowsky ; « La vague à venir » de Mustafa Suleyman.*
