Automejora recursiva (recursive self-improvement, RSI) es el bucle en que un sistema de IA mejora el proceso que lo produce (su código, su arquitectura, su entrenamiento) y, al volverse más capaz, lo mejora todavía más. Es el mecanismo que se supone detrás de FOOM y de la singularidad; su formulación clásica es la de Good: una máquina ultrainteligente podría diseñar máquinas aún mejores (Good, 1966, p. 33).
Yudkowsky (2008) lo ilustró con la pila de Fermi de 1942. Con un factor de multiplicación de neutrones de 0,9994 la reacción se apaga; con 1,0006 se sostiene y crece. Si cada mejora dispara en promedio un poco más de una mejora adicional, una diferencia minúscula separa el estancamiento de la explosión. Omohundro agregaba que casi cualquier agente con metas tendría motivos para automejorarse, porque eso sirve a casi cualquier meta (Omohundro, 2008) (ver convergencia instrumental). Para lógicos hay una versión más elegante: la «máquina de Gödel» de Schmidhuber (2003) solo reescribe su propio código cuando encuentra una demostración de que la reescritura es útil, lo que traslada el problema a los límites de la autorreferencia.
En la era de los modelos de lenguaje, la versión concreta ya no sería un programa que edita su código fuente, sino modelos que escriben el código, generan los datos y evalúan los experimentos con que se entrena a sus sucesores. Por eso la automatización de la investigación en IA es, para unos, la hoja de ruta y, para otros, la línea roja. La canción la pone al final de una genealogía que empieza en el modelado enmascarado: «To recursive self-upgrade» (osmarks, s. f.).
Los escépticos recuerdan que los bucles reales tienen fricción: rendimientos decrecientes, datos que se agotan, experimentos que cuestan cómputo y tiempo físico. La metáfora de la reacción en cadena presupone que la «inteligencia» se deja multiplicar como los neutrones, y eso es justamente lo que está en discusión.