Pocas palabras confunden tanto a un lógico que lee sobre IA. Conviene separar tres sentidos:
- Lógico. Pasar de premisas a una conclusión; una inferencia es válida si preserva la verdad, como el modus ponens.
- Estadístico. Estimar lo desconocido a partir de datos: parámetros de una población, distribuciones a posteriori. La «inferencia probabilística» calcula, por ejemplo, probabilidades marginales en una red bayesiana (Witten et al., 2017, p. 368). Paradójicamente, en este sentido lo que hace una red neuronal al entrenarse (estimar sus parámetros a partir de datos) es inferencia.
- Ingenieril, el de esta entrada. En la jerga del aprendizaje automático, «inferencia» es lo contrario de entrenamiento: usar un modelo ya entrenado para obtener predicciones sobre entradas nuevas (Chollet, 2021, sec. 3.6.7). Es, literalmente, hacer correr la pasada hacia adelante por la red, sin tocar los pesos.
En sentido ingenieril, la inferencia tiene sus propios problemas técnicos. Algunas capas se comportan distinto que durante el entrenamiento (el dropout, por ejemplo, se apaga) (Chollet, 2021, sec. 7.4.1). Su costo por token es de unas 2·N operaciones para un modelo de N parámetros, frente a unas 6·N por token de entrenamiento (Kaplan et al., 2020, sec. 2.1), pero se paga cada vez que alguien usa el modelo. De ahí las técnicas para abaratarla, como la cuantización o la caché KV (Alammar y Grootendorst, 2024, p. 83), y el interés reciente en gastar más en ella a propósito (cómputo en inferencia).
La confusión no es inocente. Que un modelo «haga inferencia» sobre la oración «Todos los humanos son mortales y Sócrates es humano, por lo tanto…» no significa que realice una deducción: calcula qué palabras suelen seguir, y que acierte con «Sócrates es mortal» es otra cuestión (Shanahan, 2024, p. 76). Si un modelo hace inferencias en sentido lógico es una pregunta empírica, que se estudia con tareas de inferencia en lenguaje natural; si las hace en el sentido normativo del inferencialismo, una pregunta filosófica.