Peter Denning no se anda con rodeos. Destacado científico informático y autor del nuevo análisis El error de Turing: escapar del yugo de las máquinas poco inteligentes, sostiene que todo el campo de la inteligencia artificial ha ido en la dirección equivocada desde 1950.
Alan Turing. El padre de la informática teórica. Propuso que la inteligencia de una máquina podría juzgarse por qué tan bien imitaba la conversación humana: la famosa prueba de Turing. Durante décadas, esta idea fue un evangelio. Sugirió que la inteligencia podría desacoplarse del cuerpo, reducirse a software y ejecutarse en cualquier computadora digital.
Denning no está de acuerdo. Bruscamente.
Estas dos afirmaciones, escribe, “han dado forma a gran parte de la investigación y el desarrollo de la IA”. Y nos han llevado a un lío. Estamos construyendo sistemas que parecen inteligentes pero no piensan. No precisamente. No entienden. No sienten. Y son peligrosos precisamente porque no son humanos.
La brecha de conocimiento tácito
El núcleo del argumento de Denning se basa en un concepto difícil de alcanzar: el conocimiento tácito.
¿Qué es? Es la enorme cantidad de comprensión que posees pero que no puedes expresar con palabras. Es la memoria muscular de un pianista. El instinto visceral de un cirujano. El contexto cultural compartido que te cuenta un chiste es divertido versus ofensivo. Lo tienes. Las máquinas no.
Denning identifica cinco formas de este conocimiento que actualmente eluden el aprendizaje automático:
- Sentido común
- Interacciones cotidianas con personas y entornos.
- Sentimientos y percepciones
- Habilidades prácticas
- Antecedentes culturales e históricos.
Intentamos arreglar esto. En los años 1980. Douglas Lenat inició el proyecto Cyc, un ambicioso intento de construir una base de datos masiva de hechos de sentido común para computadoras. Cuarenta años después, después de 25 millones de entradas, se llegó al veredicto. Todavía no era suficiente.
“Cyc validó que gran parte del conocimiento que convierte a las personas en expertas no puede articularse como hechos proposicionales”.
Denning lo nota claramente. Ni siquiera ese enorme tesoro de hechos generó una verdadera experiencia. Puedes almacenar qué es algo. No puedes almacenar cómo ser un experto.
Saber versus saber cómo
La habilidad práctica es el obstáculo.
“Mientras que las descripciones de resultados hábiles a menudo pueden representarse como bits”, explica Denning, “no sabemos cómo codificar el conocimiento incorporado para el desempeño hábil “.
Hay una diferencia entre saber qué y saber cómo. Un violinista virtuoso toca música hermosa. Intente pedirles que describan exactamente cómo producir el sonido de una manera que otro ser humano pueda replicar. Es casi imposible. El conocimiento está en los dedos. En el oído. En el cuerpo.
Pon eso en un robot. Incluso uno con una forma física que imita a un humano. Todavía no captará el sentimiento. Puede imitar el movimiento. Pero no sentirá la música. O la audiencia.
La intuición, la espontaneidad y la imaginación se resisten a la reducción a un código.
El problema de la representación
Aquí está el problema técnico: las computadoras sólo procesan datos codificados en formas físicas. Binario. Símbolos.
El conocimiento tácito no encaja en ese molde.
“Las palabras no son más que representaciones simbólicas de significados… no pueden conocer ni comprender el significado de lo que dicen.”
Es por eso que los modelos de lenguajes grandes (LLM) como ChatGPT o Gemini son limitados. Manipulan símbolos. No conocen el significado detrás de ellos.
Detrás de cada palabra hay un pozo de conocimiento tácito. Los científicos no comprenden completamente cómo se aloja ese conocimiento en el cerebro humano. Sabemos que está encarnado. Pero no podemos observarlo. No podemos medirlo. Entonces no podemos transferirlo.
Esto crea una brecha insalvable.
Por qué el contexto lo cambia todo
El significado no es estático. Es fluido. Depende del contexto.
Una declaración cambia por completo si el hablante es sarcástico en lugar de sincero. Juguetón en lugar de enojado. Las conversaciones humanas están plagadas de suposiciones de fondo que dan relevancia a las palabras. Denning señala que este contexto es infinito y fractal.
Una suposición se basa en una conversación anterior, la cual se basa en otra, que se remonta para siempre.
La cultura es parte de esto. Valores. Normas. Historias. Relaciones de poder o de cuidado. Los grandes modelos lingüísticos no se están volviendo más inteligentes. Ampliar las redes neuronales no resuelve el problema.
“La ampliación de los LLM… no les permitirá adquirir el conocimiento humano incorporado que llamamos cultura ”.
No pasarán la prueba de Turing como esperaba Turing. No demostrarán un pensamiento indistinguible del pensamiento humano. Demostrarán una mímica indistinguible del ruido ante cualquiera que preste atención.
El verdadero riesgo para la seguridad
Entonces, ¿cuál es el peligro?
No es Skynet. No es una superinteligencia conspirando para tomar el poder.
La amenaza inmediata es una red de máquinas que son menos inteligentes que los humanos. Sistemas agentes que actúan de manera impredecible. No entienden las instrucciones humanas no expresadas. No captan los matices de la seguridad. No les importamos.
Denning describe una incomprensión mutua. Las máquinas desarrollan su propio tipo de conocimiento tácito. No podemos leer el de ellos. No pueden leer el nuestro. Somos extraños unos para otros a través de una división infranqueable.
La inteligencia artificial tiene preocupaciones diferentes. Estilos alienígenas de resolución de problemas. Comportamientos impredecibles.
Alejarnos de una singularidad de la automatización requiere que admitamos algo incómodo. Nuestra cultura familiar se está desvaneciendo. No sabemos qué vendrá después.
Debemos negarnos a pensar como máquinas. Rechazar la sumisión. Reafirmar nuestra humanidad. Celebra lo que nos hace diferentes.
Porque la alternativa no es un levantamiento de robots. Es un mundo en el que las mismas herramientas que construimos nos malinterpretan. Y a las máquinas no les importa lo suficiente como para intentarlo.
