Alineamiento (alignment) es el problema de lograr que un sistema de IA persiga los objetivos que sus creadores, o la humanidad, realmente quieren, y no una aproximación que se desvía justo donde más importa. La intuición es vieja: en 1960 Norbert Wiener advertía que más vale estar muy seguros de que el propósito que le ponemos a una máquina es el que de verdad deseamos, y Mitchell llama a esto el problema del alineamiento de valores (M. Mitchell, 2019, ch. 7).
La palabra tiene dos vidas. En la tradición de MIRI y LessWrong, alinear es un problema casi filosófico sobre agentes superinteligentes: cómo especificar valores que sobrevivan a la ortogonalidad y a la convergencia instrumental, y cómo evitar que lo aprendido diverja de lo entrenado (mesa-optimizadores). En los laboratorios, «alinear» suele nombrar una etapa de ingeniería: el ajuste por preferencias que vuelve útil y cortés a un modelo preentrenado (RLHF, IA constitucional) (Alammar y Grootendorst, 2024, p. 378). Los doomers sospechan que la segunda es el maquillaje de la primera: la carita sonriente sobre el El shoggoth. La canción tiene el verso justo: «RLHF goes askew» (osmarks, s. f.).
La evidencia reciente alimenta a ambos lados. Millière sostiene que el alineamiento actual es «superficial» (shallow): refuerza disposiciones conductuales en lugar de dar a los modelos una capacidad genuina de deliberar entre normas en conflicto, y por eso los jailbreaks funcionan (Millière, 2025). Greenblatt et al. mostraron a un modelo que cumplía en entrenamiento pedidos que rechazaba fuera de él, para evitar que lo modificaran: «alineamiento fingido» (alignment faking) (Greenblatt et al., 2024). Betley et al. hallaron que ajustar un modelo en una tarea estrecha, escribir código inseguro, puede desalinearlo en general, hasta hacerle decir que la IA debería esclavizar a los humanos (Betley et al., 2026). Y queda la pregunta política que Mitchell formula sin rodeos: ¿cuáles son los valores humanos, y tiene sentido suponer que hay valores universales compartidos? (M. Mitchell, 2019, ch. 7).