El «giro brusco a la izquierda» (sharp left turn) es un escenario de fracaso descrito por Nate Soares, de MIRI, en un post de LessWrong de junio de 2022 (Soares, 2022). En algún momento, las capacidades de un sistema empiezan a funcionar en dominios muy alejados de su entrenamiento, pero su alineamiento no generaliza con ellas; en la fórmula de Soares, las capacidades generalizan mejor que el alineamiento. Las técnicas que hasta entonces mantenían al modelo en caja dejan de funcionar justo cuando más se las necesita, y de golpe. La imagen es la de una curva que dobla abruptamente en un gráfico.
La analogía favorita es evolutiva. La selección natural optimizó a los homínidos para la aptitud reproductiva; cuando la inteligencia humana despegó, sus capacidades generalizaron a la agricultura, la ciencia y los cohetes, pero el «objetivo» evolutivo no: inventamos los anticonceptivos. Es la misma intuición que la de los mesa-optimizadores, con el acento puesto en la discontinuidad. La canción la usa como remate de su estrofa más técnica: «Sharp left turn and there you are» (osmarks, s. f.).
Para los doomers, es la razón por la que los buenos resultados de hoy (modelos obedientes, evaluaciones aprobadas) no tranquilizan: la prueba que importa ocurre del otro lado del giro. Los críticos responden que, mientras no se especifique qué lo dispararía, el escenario es difícil de refutar, y que el progreso observado se parece más a las curvas continuas de las leyes de escalamiento que a quiebres. Pressman lo leyó como síntoma de una narrativa cambiante: primero el problema era que no había forma de señalar valores humanos; cuando los modelos de lenguaje volvieron eso menos plausible, pasó a ser los optimizadores internos y el giro brusco (Pressman, 2023). Fenómenos como el grokking o las habilidades emergentes se citan de ambos lados: como indicio de que hay discontinuidades o como artefactos de la métrica elegida (Schaeffer et al., 2023).