Un modelo de lenguaje guarda lo que «sabe» en sus parámetros: memoria paramétrica, difícil de actualizar y de citar. P. Lewis et al. (2020) propusieron combinarla con una memoria no paramétrica: un índice de vectores densos con la Wikipedia partida en 21 millones de fragmentos de cien palabras, al que un recuperador neuronal consulta antes de que el generador escriba (2020, secs. 1, 3). Una ventaja inmediata: para actualizar lo que el sistema sabe basta con reemplazar el índice, sin reentrenar nada (2020, sec. 4.5).
Hoy el esquema básico tiene dos pasos (Alammar y Grootendorst, 2024, pp. 226–230, 249–250):
- Búsqueda. La pregunta se convierte en un embedding y se buscan los fragmentos más cercanos en una base de datos vectorial (búsqueda semántica), a veces con una etapa de reordenamiento.
- Generación fundamentada. Los fragmentos se pegan en el prompt junto con la pregunta y se le pide al modelo que responda con base en ellos, idealmente citándolos.
Es la técnica estándar para «chatear con tus documentos» y la principal defensa de la industria contra la alucinación: reduce los errores y mejora la factualidad (2024, p. 250). Pero no los elimina: el recuperador puede traer el fragmento equivocado, y el modelo puede ignorar o tergiversar lo que tiene delante. Ver Generación aumentada por recuperación (RAG).
La distinción entre memoria paramétrica y no paramétrica tiene un eco filosófico conocido. A. Clark y Chalmers (1998) propusieron la tesis de la mente extendida con el ejemplo de Otto, que guarda en una libreta lo que otros guardan en la memoria biológica. Un sistema con RAG es Otto con libreta. ¿Dónde está, entonces, el conocimiento del sistema: en los pesos, en el índice o en el acoplamiento entre ambos? Y si la libreta dice algo falso, ¿el error es del modelo?