Hipótesis de que las redes representan conceptos de alto nivel como direcciones en su espacio de activaciones, de modo que pueden leerse, sumarse y manipularse con álgebra lineal.
Según esta hipótesis, un concepto como «es código Python» o «está en francés» corresponde a
una dirección en el espacio de activaciones de una capa: cuánto está presente en un
token se lee proyectando la activación sobre esa dirección (un producto
escalar) (Millière y Buckner, 2024b, sec. 2.5.3). Si es verdad, la interpretabilidad se vuelve
tratable: los sondeos lineales alcanzan para leer, sumar un vector alcanza para
intervenir (direccionamiento), y los autocodificadores dispersos pueden
buscar un diccionario de direcciones. Templeton et al. (2024) la toman, junto con la
superposición, como punto de partida explícito.
El antecedente famoso son las analogías de word2vec:
vector(«King») − vector(«Man») + vector(«Woman») da un vector cuyo vecino más cercano es
«Queen» (Mikolov, Chen et al., 2013, sec. 1.1). La evidencia más citada viene de Othello-GPT. Li et al. (2023)
encontraron el tablero con sondeos no lineales; Nanda et al. (2023) mostraron que
estaba codificado linealmente si se preguntaba por «mío», «del rival» y «vacío» en lugar de
«negro» y «blanco», y que una simple suma vectorial cambiaba las jugadas del modelo
(Millière y Buckner, 2024b, sec. 2.5.3). Marks y Tegmark (2024) encontraron una estructura lineal que
separa los enunciados fácticos simples verdaderos de los falsos en modelos grandes.
Hay matices. La hipótesis admite varias formulaciones técnicas, y que algo pueda
decodificarse linealmente no impide que la red también use información no lineal
(2024b, sec. 2.5.3). Engels et al. (2025) hallaron rasgos irreduciblemente
multidimensionales: círculos para los días de la semana y los meses, que los modelos usan
para hacer aritmética modular con ellos.
La idea recuerda los espacios conceptuales de Gärdenfors (2000), donde los conceptos son
regiones de un espacio geométrico. Pero una dirección no es todavía un concepto: la
«dirección de la verdad» podría seguir lo verdadero o solo lo que suele decirse verdadero.
¿Qué fija el contenido de una dirección: su correlación con el mundo, su efecto en la
conducta del modelo, o nuestro etiquetado?
Fuentes
- Engels, J., Michaud, E. J., Liao, I., Gurnee, W., & Tegmark, M. (2025). Not all language model features are one-dimensionally linear. In 13th International Conference on Learning Representations (ICLR 2025) (pp. 84591–84622). https://proceedings.iclr.cc/paper_files/paper/2025/hash/d3221cdb27e49d9c1cd35ad254feccfe-Abstract-Conference.html §
- Gärdenfors, P. (2000). Conceptual spaces: The geometry of thought. MIT Press. https://doi.org/10.7551/mitpress/2076.001.0001 §
- Li, K., Hopkins, A. K., Bau, D., Viégas, F., Pfister, H., & Wattenberg, M. (2023). Emergent world representations: Exploring a sequence model trained on a synthetic task. In 11th International Conference on Learning Representations (ICLR 2023). https://openreview.net/forum?id=DeG07_TcZvT §
- Marks, S., & Tegmark, M. (2024). The geometry of truth: Emergent linear structure in large language model representations of true/false datasets. In First Conference on Language Modeling (COLM 2024). https://openreview.net/forum?id=aajyHYjjsk §
- Mikolov, T., Chen, K., Corrado, G., & Dean, J. (2013). Efficient estimation of word representations in vector space (arXiv:1301.3781). arXiv. https://doi.org/10.48550/arXiv.1301.3781 §
- Millière, R., & Buckner, C. (2024b). A philosophical introduction to language models—Part II: The way forward (arXiv:2405.03207). arXiv. https://doi.org/10.48550/arXiv.2405.03207 §
- Nanda, N., Lee, A., & Wattenberg, M. (2023). Emergent linear representations in world models of self-supervised sequence models. In Y. Belinkov, S. Hao, J. Jumelet, N. Kim, A. McCarthy, & H. Mohebbi (Eds.), Proceedings of the 6th BlackboxNLP Workshop: Analyzing and Interpreting Neural Networks for NLP (pp. 16–30). Association for Computational Linguistics. https://doi.org/10.18653/v1/2023.blackboxnlp-1.2 §
- Templeton, A., Conerly, T., Marcus, J., Lindsey, J., Bricken, T., Chen, B., Pearce, A., Citro, C., Ameisen, E., Jones, A., Cunningham, H., Turner, N. L., McDougall, C., MacDiarmid, M., Tamkin, A., Durmus, E., Hume, T., Mosconi, F., Freeman, C. D., . . . Henighan, T. (2024). Scaling monosemanticity: Extracting interpretable features from Claude 3 Sonnet. Transformer Circuits Thread. https://transformer-circuits.pub/2024/scaling-monosemanticity/index.html §
