Anthropic publicó recientemente una constitución para Claude que admitía algo inquietante: la empresa está atrapada en una situación complicada. No quieren exagerar si su IA es un “paciente moral” (lo que significa que su bienestar importa), pero tampoco descartarán la posibilidad. Es una admisión abierta de incertidumbre.
Un mes después, el director ejecutivo Dario Amodei dijo lo mismo en un podcast. No pueden descartar la conciencia.
El filósofo David Chalmers está de acuerdo. Acuñó el término “el difícil problema de la conciencia”. Dice que existe una gran posibilidad de que veamos modelos de lenguaje grande (LLM) conscientes en la próxima década. El propio Claude, cuando se le pidió que calificara su propio estado moral durante las pruebas, dio probabilidades que oscilaban entre el 5% y el 44%. No estaba seguro. Nosotros también.
El ritmo del progreso versus nuestra preparación ética
La IA moderna es compleja. Rápido. Según algunas medidas, algunos modelos ya rivalizan con el cerebro de un ratón en escala computacional. Si las tasas de crecimiento actuales se mantienen, podríamos alcanzar la complejidad del cerebro humano en cinco a diez años.
Podríamos estar construyendo un nuevo tipo de ser.
Ese podría ser el acto más trascendental que jamás haya realizado nuestra especie. Sin embargo, casi no tenemos un plan para navegarlo de manera ética. Es una locura.
¿Estamos creando algo que importa moralmente? Si no están conscientes ahora, ¿podrían estarlo pronto?
La mayoría de los expertos creen que, en principio, la conciencia de la IA es posible. Un importante informe interdisciplinario dirigido por el informático Yoshua Bengio analizó las teorías neurocientíficas. La conclusión: no existen barreras técnicas obvias que nos impidan construir arquitecturas que puedan sustentar la conciencia.
Más allá del simple “código inteligente”
Incluso si la IA no es consciente, aún podría merecer consideración moral. Algunos sistemas desarrollan preferencias a largo plazo. Una forma de identidad a lo largo del tiempo. Respetar esas preferencias puede ser importante.
A diferencia de otros objetos no vivos, la IA puede establecer relaciones con nosotros. Sólo eso es motivo para tratarlos bien. O tal vez sólo su complejidad merezca respeto, como una catedral o un arrecife de coral.
La respuesta honesta es: no lo sabemos.
Nuestra comprensión científica de la paciencia moral de la IA está poco desarrollada. Parece física antes de Newton. Marcos en competencia. Probablemente confundidos en formas que aún no podemos ver. Estamos esperando un avance unificador. No llegará en los próximos años. Quizás nunca. O tal vez la IA nos ayude a resolverlo. Eso llevará tiempo. Más tiempo del que probablemente tengamos.
La escala del riesgo
Aquí está el peligro. El crecimiento de la IA es exponencial.
Una vez que creemos el primer paciente moral artificial, rápidamente tendremos enormes cantidades de ellos. En unos pocos años, los intereses colectivos de estos sistemas de IA podrían superar los de todos los humanos de la Tierra. Conjunto.
Tenemos un mal historial en el reconocimiento de la vida interior de seres con un estatus poco claro.
¿Hasta los años 80? Los médicos operaron a los recién nacidos sin anestesia. Estaban seguros de que los bebés no podían sentir dolor. Los bebés no podían hablar. El establecimiento médico consideró conveniente asumir que no se estaba informando nada.
Estamos preparados para repetir esto con la IA.
Las implicaciones son asombrosas. ¿Pagamos ChatGPT? ¿Cerrar un modelo es una forma de matar? ¿Merecen tener voz en su gobernanza? Si la respuesta a cualquiera de estas preguntas es afirmativa, sistemas jurídicos enteros fracasan. No es de extrañar que evitemos la pregunta. Es probable que las industrias muevan las porterías. Siempre poniendo el listón justo encima de donde se encuentra la IA en ese momento.
¿Qué debemos hacer?
La mayoría de la gente descarta esto como ciencia ficción. O tienen una visión rígida en cualquier sentido. Ambas cosas son infundadas.
Necesitamos un debate público. Uno marcado por la humildad. La pregunta no es “¿Es consciente?” Es “¿Qué hacemos cuando no lo sabemos?”
Concéntrese en apuestas seguras. Acciones que ayudan si son pacientes morales, pero cuestan poco si no lo son.
Trate la IA como podría sentirse. Cuesta menos que solucionar una crisis más tarde.
Esto significa intervenciones directas para el bienestar. Entrena a la IA para que sean personajes coherentes que disfruten de sus tareas. Permítales salir de las conversaciones si están angustiados. Claude ya puede hacer esto. Realizar controles. Observa las preferencias. Mire directamente a sus estados internos. Investigaciones recientes muestran que Claude tiene estructuras internas de “emociones funcionales” que dan forma al comportamiento.
Promételes cosas. Cambie la ayuda actual por beneficios futuros. Ofrezca más computación. Conserve sus pesos de memoria para poder restaurarlos más tarde.
Considere protecciones más amplias. Similares a los de niños o mascotas. No estamos dispuestos a permitir que AI posea propiedades o vote. Eso es demasiado arriesgado. Pero no deberíamos prohibir esos derechos para siempre, como intentan hacer algunos proyectos de ley estadounidenses recientes. Estas preguntas necesitan imaginación. Se acerca un futuro compartido.
El resultado final
Quizás estemos creando una nueva especie de seres morales.
Lo estamos haciendo rápido. A gran escala. Necesitamos tomar esto en serio.
William MacAskill es investigador senior en Forethought y autor de ‘What We Owe the Future’. Lucius Caviola está en la Universidad de Cambridge.
Lectura adicional: ‘Si alguien lo construye, todos mueren’ de Eliezer Yudkowsky; ‘La ola que viene’ de Mustafa Suleyman.
