En el uso actual, los logits son el vector de puntajes que sale de la última capa de una red antes de convertirse en probabilidades. No están acotados (pueden ser negativos o enormes) ni suman nada en particular; la softmax los transforma en una distribución de probabilidad. En un modelo como Phi-3, la «cabeza» de modelado de lenguaje produce 32.064 números por posición, uno por cada token del vocabulario; tras la entrada «The capital of France is», el mayor corresponde a Paris (Alammar y Grootendorst, 2024, pp. 79–81).
Ejemplo mínimo. Los logits [2, 1, 0] dan, tras softmax, ≈ [0,665; 0,245; 0,090]. Los logits [12, 11, 10] dan exactamente lo mismo: sumar una constante a todos no cambia nada, porque solo importan las diferencias. Y la diferencia entre dos logits es el logaritmo de la razón entre sus probabilidades: 2 − 1 = 1 = ln(0,665 / 0,245).
El nombre es heredado. En estadística, el logit de una probabilidad p es el logaritmo de sus chances, log(p / (1 − p)); la regresión logística modela esa cantidad, que va de −∞ a +∞, con una función lineal de los atributos (Witten et al., 2017, p. 130). Por ejemplo, logit(0,9) = ln 9 ≈ 2,2. El aprendizaje profundo extendió el nombre, con cierta laxitud, a cualquier puntaje previo a la softmax.
Los logits son lo último que ocurre antes de la decisión, y por eso interesan a la interpretabilidad: una manera de averiguar si una representación interna tiene un papel causal es intervenir sobre ella y observar cómo cambian los logits. Así se estudió, por ejemplo, la representación del tablero en Othello-GPT (Millière y Buckner, 2024b, p. 17). También son lo que la temperatura reescala antes del muestreo.