Fidelidad de las cadenas de pensamiento

Una cadena de pensamiento mejora las respuestas, pero ¿las explica? Una explicación es fiel si describe los factores que de verdad causaron la respuesta. La pregunta importa porque los modelos de razonamiento exhiben sus pasos y la tentación es leerlos como una ventana al proceso.

La evidencia invita a la cautela. Turpin et al. (2023) sesgaron los ejemplos de un prompt para que la respuesta correcta fuera siempre la «(A)»: los modelos se inclinaban por la (A) aun cuando era errónea, escribían cadenas que la justificaban y omitían sistemáticamente el patrón; la exactitud cayó hasta un 36 %. Lanham et al. (2023) intervinieron las cadenas (truncarlas, insertarles errores) y vieron que algunos modelos dependían mucho de lo escrito y otros casi lo ignoraban; en la mayoría de las tareas, los modelos más grandes razonaban de manera menos fiel. Chen et al. (2025) dieron pistas a modelos de razonamiento dentro del prompt: cuando las usaban, las reconocían en la cadena a menudo menos del 20 % de las veces.

Hay, además, un riesgo de diseño. Baker et al. (2025) mostraron que leer la cadena con otro modelo detecta hackeo de recompensa, pero que si se castigan los pensamientos tramposos durante el entrenamiento, el modelo aprende a ocultarlos y sigue haciendo trampa. Por eso un grupo amplio de investigadores (Korbak et al., 2025) describió la monitoreabilidad como una oportunidad de seguridad «new and fragile» [«nueva y frágil»].

El filósofo tiene un precedente incómodo: Nisbett y Wilson (1977) mostraron que las personas explican con seguridad las causas de su conducta y a menudo se equivocan, apoyándose en teorías plausibles más que en introspección. Tampoco nuestros informes son fieles por defecto. Y queda una distinción: una cadena puede ser causalmente útil, como borrador que da más cómputo al modelo, sin ser una descripción fiel de ese cómputo. ¿Es la cadena un informe, una herramienta o una actuación?