Wei, Wang et al. (2022) definieron la cadena de pensamiento como una serie de pasos intermedios de razonamiento en lenguaje natural, y mostraron que alcanza con ponerlos en los ejemplos de un prompt few-shot para que el modelo los imite:
P: Roger tiene 5 pelotas de tenis. Compra 2 latas de 3 pelotas cada una. ¿Cuántas tiene? R: Roger empezó con 5. 2 latas de 3 son 6. 5 + 6 = 11. La respuesta es 11.
Con solo ocho ejemplos así, PaLM (540.000 millones de parámetros) alcanzó el mejor resultado de entonces en GSM8K, un conjunto de problemas escolares de matemática. El efecto dependía de la escala: en modelos de menos de unos 100.000 millones de parámetros, las cadenas eran fluidas pero ilógicas y empeoraban el resultado (2022, sec. 3.2). Poco después se vio que bastaba agregar «Let's think step by step» para obtener cadenas sin ejemplos (Kojima et al., 2022; Buckner, 2024, pp. 279–280).
¿Por qué funciona? Una explicación es computacional: cada token generado es una pasada más por la red, así que escribir los pasos le da al modelo más cálculo por problema y le permite apoyarse en resultados parciales ya escritos (Alammar y Grootendorst, 2024, pp. 185–187); de ahí su vínculo con el cómputo en inferencia y los modelos de razonamiento. Alammar y Grootendorst (2024) lo comparan con el «Sistema 2» de Kahneman (2024, p. 185).
Para un lógico, la cadena se parece a una derivación, pero no es una. Shanahan (2024) lo dice con precisión: si el modelo razona bien, lo hace imitando argumentos bien formados de su entrenamiento o del prompt. Un demostrador de teoremas es confiable porque su proceso causal refleja la estructura de la inferencia que preserva la verdad; un modelo que solo imita no da esa garantía (2024, p. 76). Los propios Wei, Wang et al. (2022) dejan abierto si la red está realmente «razonando» (2022, sec. 6). Y queda un problema de fidelidad: nada asegura que la cadena escrita sea la causa de la respuesta y no una racionalización posterior.