La idea aparece una y otra vez cuando se habla de singularidad tecnológica: una inteligencia artificial diseña una versión mejor de sí misma; esa versión crea otra aún más capaz; el ciclo se acelera. Es una posibilidad discutida desde hace décadas, pero no debemos confundirla con cualquier sistema que ayude a programar o investigar.
La pregunta importante es qué se está mejorando, quién decide el cambio y cómo se comprueba que realmente funciona.
1. Automatizar una mejora no es lo mismo que mejorarse sin límites
Hoy existen herramientas que automatizan partes del desarrollo de sistemas de aprendizaje automático: buscan configuraciones, seleccionan arquitecturas, proponen código o ayudan a evaluar experimentos.
En AutoML, por ejemplo, un proceso puede explorar alternativas de modelos siguiendo criterios y recursos definidos. El resultado puede ser útil sin que el sistema haya adquirido la capacidad de transformar autónomamente todas las etapas de su propia investigación.
Hay al menos tres niveles distintos:
- Asistencia: una IA propone cambios y una persona los revisa.
- Optimización automatizada: un sistema busca mejoras dentro de un espacio de posibilidades y un objetivo definidos.
- Automejora recursiva abierta: un sistema incrementa sus capacidades para mejorar, a su vez, su propio proceso de mejora de manera sostenida.
El tercer nivel es el que suele aparecer en las hipótesis de una aceleración radical. No se deduce automáticamente de los dos primeros.
2. Ejemplos reales: progreso dentro de tareas concretas
Un caso conocido es AlphaGo Zero, que aprendió a jugar al go mediante partidas contra sí mismo, sin depender de partidas humanas para su entrenamiento. El logro demuestra que un procedimiento de aprendizaje puede producir mejoras extraordinarias en una tarea bien definida. No demuestra que el sistema pudiera rediseñar de manera autónoma toda su arquitectura, sus objetivos y su infraestructura.
Otro ejemplo es AlphaDev, un sistema que encontró algoritmos de ordenación más eficientes para determinados casos. Aquí la IA ayudó a descubrir mejoras en software, pero la evaluación de esas mejoras seguía siendo específica y verificable.
Estos avances son importantes precisamente porque pueden medirse. También ilustran por qué debemos evitar extrapolarlos a una inteligencia general sin evidencia adicional.
3. Qué tendría que ocurrir para hablar de automejora recursiva
Imaginemos un sistema que investiga cómo construir mejores sistemas de IA. Para que exista un ciclo sostenido de automejora, no bastaría con generar propuestas: tendría que evaluarlas, seleccionar las válidas, incorporarlas y conservar o ampliar su capacidad de seguir mejorando.
Cada etapa introduce preguntas:
- ¿Las mejoras funcionan fuera de las pruebas utilizadas durante su desarrollo?
- ¿El sistema identifica errores de evaluación y resultados engañosos?
- ¿Dispone de datos, energía, hardware y tiempo suficientes?
- ¿Las mejoras aumentan la capacidad de investigar o solo el rendimiento en una tarea?
- ¿Quién supervisa los cambios y decide cuándo desplegarlos?
No existe una regla que garantice que cada ciclo produzca una mejora mayor que el anterior.
4. Los límites que suelen desaparecer de los titulares
Una historia sobre «explosión de inteligencia» puede dar la impresión de que el software se mejora sin coste. En la práctica, entrenar, probar y ejecutar modelos requiere recursos materiales y coordinación.
Además, mejorar una métrica no equivale a mejorar todas las capacidades. Una técnica puede funcionar en un conjunto de problemas y fallar en otros. Un resultado puede depender de datos, herramientas o intervención humana que el titular no menciona.
También existe una dificultad metodológica: si un sistema diseña y evalúa sus propias mejoras, necesitamos controles para evitar que optimice únicamente la prueba y no la capacidad que queremos medir.
5. ¿Y si el progreso sí se acelerara?
La automejora recursiva es relevante para el debate sobre superinteligencia porque plantea un posible mecanismo de aceleración. Pero una hipótesis de mecanismo no es una predicción confirmada.
Hay diferentes escenarios: mejoras graduales bajo supervisión humana, avances rápidos en áreas limitadas, ciclos de automatización más amplios o estancamiento por restricciones técnicas y económicas. La velocidad y el alcance de cualquiera de ellos siguen siendo cuestiones abiertas.
Cómo leer el próximo anuncio sobre «IA que se mejora sola»
Antes de compartirlo, vale la pena formular cuatro preguntas: ¿qué componente cambió?, ¿quién realizó el cambio?, ¿cómo se midió la mejora? y ¿se repitió el ciclo de forma autónoma?
Estas preguntas permiten reconocer un avance genuino sin convertirlo en una afirmación más grande de lo que los datos sostienen.
Un ciclo de automejora, paso a paso
Para evaluar una afirmación de automejora, podemos dividir el proceso en cinco etapas observables:
1. Propuesta: el sistema identifica un cambio potencial en el algoritmo, el entrenamiento o las herramientas. 2. Prueba: el cambio se compara con una versión de referencia bajo condiciones controladas. 3. Validación: se comprueba que la mejora se mantiene en tareas nuevas y no solo en el examen utilizado. 4. Integración: la modificación se incorpora con controles de seguridad, posibilidad de reversión y supervisión. 5. Nuevo ciclo: el sistema utiliza la versión mejorada para proponer y evaluar otra modificación.
Que una IA complete una de estas etapas no demuestra que pueda realizar las cinco de manera autónoma. Incluso completar un ciclo entero no establece que los ciclos siguientes vayan a acelerarse.
Tres resultados que conviene distinguir
| Resultado observado | Interpretación prudente |
|---|---|
| Un sistema genera código que mejora una prueba | Hay una optimización localizada, pendiente de comprobar fuera de esa prueba |
| Un proceso automatizado encuentra mejoras repetidas | Existe evidencia de iteración dentro de condiciones definidas |
| Las mejoras aumentan la capacidad de producir nuevas mejoras | Aparece evidencia relevante para estudiar automejora recursiva, pero aún hay que medir sostenibilidad y límites |
No hay que confundir iteración con aceleración. Un ciclo puede producir ganancias cada vez menores o exigir más tiempo y recursos para encontrar la siguiente mejora.
¿Qué mediríamos entre ciclos?
Registraríamos el rendimiento en tareas independientes, los recursos consumidos, la intervención humana necesaria y la fiabilidad de las nuevas versiones. Sin esos datos, afirmar que un sistema «se mejora solo» resulta demasiado ambiguo.
Para entender por qué la velocidad de los ciclos también depende de infraestructura, consulta los límites físicos de la superinteligencia. Para interpretar las puntuaciones, revisa cómo medir la inteligencia artificial.
Fuentes y lecturas
- DeepMind, *Mastering the game of Go without human knowledge* (Nature, 2017).
- DeepMind, *Faster sorting algorithms discovered using deep reinforcement learning* (Nature, 2023).
- Google Research, *Neural Architecture Search with Reinforcement Learning*.
- I. J. Good, *Speculations Concerning the First Ultraintelligent Machine* (1965)60418-0).
Para ampliar el contexto, consulta las diferencias entre AGI, superinteligencia y singularidad y qué significa la singularidad tecnológica.