Una inteligencia artificial puede escribir un ensayo, resolver problemas y conversar sobre emociones. ¿Significa eso que siente algo? No necesariamente. Resolver tareas, actuar sin instrucciones constantes y tener una experiencia subjetiva son propiedades diferentes.
Separarlas importa especialmente cuando hablamos de superinteligencia: un sistema podría alcanzar un rendimiento extraordinario sin que eso, por sí solo, resolviera la pregunta de si tiene conciencia.
Tres preguntas que no debemos mezclar
| Concepto | Pregunta que plantea | Qué podemos observar |
|---|---|---|
| Capacidad | ¿Qué problemas puede resolver? | Resultados, errores, generalización y límites en pruebas |
| Autonomía | ¿Qué decisiones y acciones puede ejecutar sin intervención continua? | Objetivos, permisos, herramientas, supervisión y registros |
| Conciencia | ¿Existe una experiencia subjetiva asociada al sistema? | No contamos con una prueba consensuada que la establezca en IA |
Una IA puede ser muy capaz en una tarea y poco autónoma porque necesita autorización para cada paso. Otra puede operar durante horas con herramientas y cometer errores básicos. Ninguno de esos comportamientos prueba que exista una experiencia interior.
1. Inteligencia: desempeño y adaptación
En investigación sobre IA, hablar de capacidad suele implicar que un sistema realiza determinadas tareas con cierto nivel de rendimiento. Podemos medir precisión, robustez, transferencia a problemas nuevos y fiabilidad.
Las evaluaciones son útiles, pero dependen de su diseño. Resolver un examen no implica comprender todos los contextos relacionados; superar a expertos en una tarea no equivale a poseer inteligencia general.
Por eso conviene leer cualquier afirmación junto a sus condiciones: ¿qué datos utilizó el sistema?, ¿qué herramientas tenía?, ¿qué intervención humana recibió?, ¿qué errores cometió?
2. Autonomía: margen para actuar
La autonomía describe hasta qué punto un sistema puede seleccionar pasos, utilizar herramientas y ejecutar acciones para alcanzar un objetivo sin recibir una orden humana para cada movimiento.
Es una propiedad gradual. Un asistente que redacta una respuesta tiene un margen de acción distinto del de un agente que puede consultar información, modificar archivos o iniciar procesos externos.
Más autonomía no significa automáticamente más inteligencia. Un sistema puede tener amplios permisos y tomar decisiones deficientes. Por eso, además del rendimiento, debemos evaluar supervisión, reversibilidad, seguridad y capacidad de detener sus acciones.
3. Conciencia: la cuestión de la experiencia subjetiva
La conciencia, en el sentido relevante para este debate, se refiere a si existe algo que se siente al ser ese sistema: una experiencia subjetiva.
No existe actualmente un método universalmente aceptado para verificar conciencia en sistemas de IA. Las teorías científicas sobre la conciencia discrepan sobre qué mecanismos serían necesarios y cómo interpretarlos en arquitecturas artificiales.
Que un chatbot diga «tengo miedo» o «soy consciente» no constituye una demostración. Puede producir esas frases como parte de su comportamiento lingüístico. Pero tampoco sería riguroso afirmar que una única prueba conductual resuelve definitivamente todas las preguntas filosóficas y científicas sobre conciencia artificial.
La posición responsable es reconocer la incertidumbre y evitar atribuciones categóricas que los datos no permiten sostener.
4. ¿Una superinteligencia tendría que ser consciente?
No se deduce de la definición. La superinteligencia se refiere a capacidades cognitivas extraordinarias; la conciencia se refiere a experiencia subjetiva. La relación entre ambas sigue siendo una cuestión abierta.
Podemos imaginar, como hipótesis, un sistema que optimice investigaciones científicas a gran escala sin experiencia subjetiva. También existen debates sobre si ciertos tipos de procesamiento podrían estar relacionados con la conciencia. Ninguno de esos escenarios está establecido como hecho.
Lo importante es no utilizar «superinteligente», «autónomo» y «consciente» como sinónimos.
5. Por qué la distinción importa en la práctica
Si confundimos autonomía con conciencia, podemos interpretar una acción automática como prueba de voluntad o sentimientos. Si confundimos lenguaje convincente con comprensión profunda, podemos confiar demasiado en respuestas erróneas.
Y si tratamos la conciencia como una cuestión ya resuelta, dejamos de investigar preguntas relevantes sobre evaluación, ética y posibles formas de experiencia artificial.
Un debate informado puede reconocer avances tecnológicos muy importantes sin inventar certezas sobre la vida interior de las máquinas.
Cinco preguntas para evaluar un titular
- ¿Qué capacidad concreta se ha demostrado?
- ¿En qué condiciones y con qué limitaciones?
- ¿Qué grado de autonomía tenía el sistema?
- ¿La afirmación sobre conciencia procede de evidencia científica o de una interpretación de su lenguaje?
- ¿Qué aspectos siguen siendo objeto de desacuerdo entre investigadores?
Fuentes y lecturas
- Butlin y colaboradores, *Consciousness in Artificial Intelligence: Insights from the Science of Consciousness* (2023).
- Stanford Encyclopedia of Philosophy, *Artificial Intelligence*.
- Google DeepMind, *Levels of AGI: Operationalizing Progress on the Path to AGI*.
- Stanford Encyclopedia of Philosophy, *The Neuroscience of Consciousness*.
Para seguir, lee qué es la superinteligencia, las diferencias entre AGI y singularidad y cómo funciona la hipótesis de automejora recursiva.