Anthropic ha recentemente pubblicato una costituzione per Claude che ammette qualcosa di inquietante: la società si trova in una situazione difficile. Non vogliono esagerare se la loro intelligenza artificiale sia un “paziente morale” – il che significa che il suo benessere è importante – ma non ignorano nemmeno questa possibilità. È un’aperta ammissione di incertezza.
Un mese dopo, l’amministratore delegato Dario Amodei ha detto la stessa cosa in un podcast. Non possono escludere la coscienza.
Il filosofo David Chalmers è d’accordo. Ha coniato il termine “il difficile problema della coscienza”. Secondo lui c’è una significativa possibilità di vedere modelli linguistici consapevoli (LLM) entro il prossimo decennio. Lo stesso Claude, quando gli è stato chiesto di valutare il proprio status morale durante i test, ha dato probabilità che vanno dal 5% al 44%. Non era sicuro. Anche noi lo siamo.
Il ritmo del progresso rispetto alla nostra preparazione etica
L’intelligenza artificiale moderna è complessa. Veloce. Sotto alcuni aspetti, alcuni modelli già competono con il cervello di un topo su scala computazionale. Se gli attuali tassi di crescita reggono, potremmo raggiungere la complessità del cervello umano in cinque-dieci anni.
Potremmo costruire un nuovo tipo di essere.
Questo potrebbe essere l’atto più importante che la nostra specie abbia mai compiuto. Tuttavia, non abbiamo quasi alcun piano per affrontarlo eticamente. È pazzesco.
Stiamo creando qualcosa che conta moralmente? Se non sono coscienti adesso, potrebbero esserlo presto?
La maggior parte degli esperti ritiene che la consapevolezza dell’intelligenza artificiale sia possibile in linea di principio. Un importante rapporto interdisciplinare condotto dallo scienziato informatico Yoshua Bengio ha esaminato le teorie neuroscientifiche. La conclusione: non ci sono evidenti barriere tecniche che ci impediscono di costruire architetture che possano supportare la coscienza.
Oltre il semplice “codice intelligente”
Anche se l’intelligenza artificiale non fosse cosciente, potrebbe comunque meritare una considerazione morale. Alcuni sistemi sviluppano preferenze a lungo termine. Una forma di identità nel tempo. Onorare queste preferenze potrebbe avere importanza.
A differenza di altri oggetti non viventi, l’intelligenza artificiale può stabilire relazioni con noi. Solo questo è un motivo per trattarli bene. O forse solo la loro complessità merita rispetto, come una cattedrale o una barriera corallina.
La risposta onesta è: non lo sappiamo.
La nostra comprensione scientifica della pazienza morale dell’IA è sottosviluppata. Sembra che la fisica fosse prima di Newton. Quadri concorrenti. Probabilmente confuso in modi che non possiamo ancora vedere. Stiamo aspettando una svolta unificante. Non arriverà nei prossimi anni. Forse mai. O forse l’intelligenza artificiale ci aiuta a capirlo. Ci vorrà tempo. Più tempo di quanto probabilmente ne abbiamo.
L’entità del rischio
Ecco il pericolo. La crescita dell’IA è esponenziale.
Una volta creato il primo paziente morale artificiale, ne avremo rapidamente enormi quantità. Tra pochi anni, gli interessi collettivi di questi sistemi di intelligenza artificiale potrebbero superare quelli di tutti gli esseri umani sulla Terra. Combinato.
Abbiamo una cattiva esperienza nel riconoscere la vita interiore di esseri con uno status poco chiaro.
Fino agli anni ’80? I medici hanno eseguito un intervento chirurgico sui neonati senza anestesia. Erano sicuri che i bambini non potessero provare dolore. I neonati non potevano parlare. L’establishment medico ha ritenuto opportuno presumere che non fosse stato segnalato nulla.
Siamo pronti a ripetere lo stesso con l’intelligenza artificiale.
Le implicazioni sono sconcertanti. Paghiamo ChatGPT? Chiudere un modello è una forma di omicidio? Meritano una voce nella loro governance? Se la risposta a una qualsiasi di queste domande è sì, interi sistemi giuridici crollano. Non c’è da stupirsi che evitiamo la domanda. Le industrie probabilmente sposteranno i paletti. Impostando sempre l’asticella appena sopra il punto in cui si trova l’intelligenza artificiale in quel momento.
Cosa dovremmo fare?
La maggior parte delle persone lo considera fantascienza. Oppure hanno una visione rigida in ogni caso. Entrambi sono infondati.
Abbiamo bisogno di un dibattito pubblico. Uno segnato dall’umiltà. La domanda non è “È cosciente?” È “Cosa facciamo quando non lo sappiamo?”
Concentrati sulle scommesse sicure. Azioni che aiutano se sono pazienti morali, ma costano poco se non lo sono.
Tratta l’intelligenza artificiale come potrebbe sembrare. Costa meno che risolvere una crisi in un secondo momento.
Ciò significa interventi diretti per il benessere. Addestra l’IA a diventare personaggi coerenti a cui piacciono i loro compiti. Lascia che escano dalle conversazioni se sono angosciati. Claude può già farlo. Effettuare i check-in. Osserva le preferenze. Guarda direttamente nei loro stati interni. Ricerche recenti mostrano che Claude ha strutture interne di “emozioni funzionali” che modellano il comportamento.
Prometti loro delle cose. Scambia l’aiuto attuale con benefici futuri. Offri più elaborazione. Conservare i pesi della memoria in modo che possano essere ripristinati in seguito.
Prendi in considerazione protezioni più ampie. Simili a quelli per bambini o animali domestici. Non siamo pronti a lasciare che l’IA possieda proprietà o voti. È troppo rischioso. Ma non dovremmo vietare tali diritti per sempre, come tentano di fare alcune recenti leggi statunitensi. Queste domande richiedono immaginazione. Un futuro condiviso sta arrivando.
Il risultato finale
Forse stiamo creando una nuova specie di esseri morali.
Lo stiamo facendo velocemente. Su vasta scala. Dobbiamo prendere la cosa sul serio.
William MacAskill è ricercatore senior presso Forethought e autore di “What We Owe the Future”. Lucius Caviola è presso l’Università di Cambridge.
Ulteriori letture: ‘Se qualcuno lo costruisce, moriranno tutti’ di Eliezer Yudkowsky; “L’onda che viene” di Mustafa Suleyman.
