Peter Denning non usa mezzi termini. Eminente informatico e autore della nuova analisi Turing’s Mistake: Escaping the Yoke of Unintelligent machines, sostiene che l’intero campo dell’intelligenza artificiale sta camminando nella direzione sbagliata dal 1950.
Alan Turing. Il padre dell’informatica teorica. Propose che l’intelligenza di una macchina potesse essere giudicata in base a quanto bene imitava la conversazione umana: il famoso test di Turing. Per decenni, questa idea è stata vangelo. Suggeriva che l’intelligenza potesse essere disaccoppiata dal corpo, ridotta a software e gestita su qualsiasi computer digitale.
Denning non è d’accordo. Bruscamente.
Queste due affermazioni, scrive, “hanno plasmato gran parte della ricerca e dello sviluppo dell’IA”. E ci hanno portato nel caos. Stiamo costruendo sistemi che sembrano intelligenti ma non pensano. Non proprio. Non capiscono. Non si sentono. E sono pericolosi proprio perché non sono umani.
Il divario della conoscenza tacita
Il nucleo dell’argomentazione di Denning si basa su un concetto sfuggente: la conoscenza tacita.
Che cos’è? È l’enorme quantità di comprensione che possiedi ma che non riesci a esprimere a parole. È la memoria muscolare di un pianista. L’istinto viscerale di un chirurgo. Il contesto culturale condiviso che ti racconta una barzelletta è divertente rispetto a quello offensivo. Ce l’hai. Le macchine no.
Denning identifica cinque forme di questa conoscenza che attualmente sfuggono al machine learning:
- Buon senso
- Interazioni quotidiane con persone e ambienti
- Sentimenti e percezioni
- Abilità pratiche
- Contesto culturale e storico
Abbiamo provato a risolvere questo problema. Negli anni ’80. Douglas Lenat ha avviato il progetto Cyc, un ambizioso tentativo di costruire un enorme database di fatti di buon senso per i computer. Quarant’anni dopo, dopo 25 milioni di iscrizioni, il verdetto è arrivato. Ancora non bastava.
“Cyc ha convalidato che gran parte della conoscenza che rende le persone esperte non può essere articolata come fatti proposizionali”.
Denning lo nota chiaramente. Anche quell’enorme tesoro di fatti non ha creato una vera competenza. Puoi memorizzare cosa è qualcosa. Non è possibile memorizzare come essere un esperto.
Conoscere o sapere come
L’abilità pratica è l’ostacolo.
“Mentre le descrizioni dei risultati abili possono spesso essere rappresentate come bit”, spiega Denning, “non sappiamo come codificare la conoscenza incorporata per prestazioni abili.”
C’è una differenza tra sapere cosa e sapere come. Un violinista virtuoso suona musica meravigliosa. Prova a chiedere loro di descrivere esattamente come produrre il suono in modo che un altro essere umano possa replicarlo. È quasi impossibile. La conoscenza è nelle dita. Nell’orecchio. Nel corpo.
Mettilo in un robot. Anche uno con una forma fisica che imita un essere umano. Ancora non coglierà la sensazione. Può imitare il movimento. Ma non sentirà la musica. O il pubblico.
Intuizione, spontaneità, immaginazione: queste resistono alla riduzione a codice.
Il problema della rappresentazione
Ecco il problema tecnico: i computer elaborano solo dati codificati in forme fisiche. Binario. Simboli.
La conoscenza tacita non si adatta a questo modello.
“Le parole non sono altro che rappresentazioni simboliche di significati… non possono conoscere o comprendere il significato di ciò che stanno dicendo.”
Questo è il motivo per cui i modelli linguistici di grandi dimensioni (LLM) come ChatGPT o Gemini sono limitati. Manipolano i simboli. Non conoscono il significato dietro di loro.
Dietro ogni parola c’è un pozzo di conoscenza tacita. Gli scienziati non comprendono appieno come tale conoscenza sia ospitata nel cervello umano. Sappiamo che è incarnato. Ma non possiamo osservarlo. Non possiamo misurarlo. Quindi non possiamo trasferirlo.
Ciò crea un divario incolmabile.
Perché il contesto cambia tutto
Il significato non è statico. È fluido. Dipende dal contesto.
Un’affermazione cambia completamente se chi parla è sarcastico anziché sincero. Giocoso piuttosto che arrabbiato. Le conversazioni umane sono stratificate con presupposti di fondo che conferiscono alle parole la loro rilevanza. Denning sottolinea che questo contesto è infinito e frattale.
Un presupposto si basa su una conversazione precedente, che a sua volta si basa su un’altra, che risale all’infinito.
La cultura è parte di questo. Valori. Norme. Storie. Relazioni che implicano potere o cura. I grandi modelli linguistici non stanno diventando più intelligenti. L’espansione delle reti neurali non risolve il problema.
“L’espansione dei LLM… non consentirà loro di acquisire la conoscenza umana incarnata che chiamiamo cultura.”
Non supereranno il test di Turing come Turing sperava. Non dimostreranno un pensiero indistinguibile dal pensiero umano. Dimostreranno un mimetismo indistinguibile dal rumore a chiunque presti attenzione.
Il vero rischio per la sicurezza
Allora qual è il pericolo?
Non è Skynet. Non è una superintelligenza che complotta per prendere il sopravvento.
La minaccia immediata è una rete di macchine che è meno intelligente degli esseri umani. Sistemi agentici che agiscono in modo imprevedibile. Non capiscono le istruzioni umane non dichiarate. Non comprendono la sfumatura della sicurezza. A loro non importa di noi.
Denning descrive una reciproca incomprensione. Le macchine sviluppano il proprio tipo di conoscenza tacita. Non possiamo leggerli. Non possono leggere i nostri. Siamo estranei gli uni agli altri attraverso una divisione invalicabile.
L’intelligenza artificiale ha preoccupazioni diverse. Stili alieni di risoluzione dei problemi. Comportamenti imprevedibili.
Tirarsi indietro da una singolarità dell’automazione ci impone di ammettere qualcosa di scomodo. La nostra cultura familiare sta svanendo. Non sappiamo cosa accadrà dopo.
Dobbiamo rifiutarci di pensare come macchine. Rifiutare la sottomissione. Riaffermare la nostra umanità. Celebrare ciò che ci rende diversi.
Perché l’alternativa non è una rivolta dei robot. È un mondo in cui siamo fraintesi a causa degli stessi strumenti che abbiamo costruito. E alle macchine non importa abbastanza da provarci.
