ElemedexEnciclopedia de bolsillo de arquitecturas de IA

Glosario (MT) › Entrenamiento y ajuste

MT118

Regla delta (Widrow–Hoff)

También: regla de Widrow–Hoff, LMS, mínimos cuadrados medios

En inglés: Delta rule (Widrow–Hoff)

Regla de aprendizaje que corrige cada peso en proporción al error de predicción y a la entrada que pasó por él: Δw = η·(objetivo − salida)·x.

La regla delta ajusta cada peso de una unidad lineal según el error que cometió:

Δwᵢ = η · (d − y) · xᵢ, con y = Σⱼ wⱼxⱼ

donde d es la salida deseada y η la tasa de aprendizaje. Sin error, no hay cambio.

Origen. Widrow y Hoff (1960) la usaron en ADALINE (adaptive linear), una máquina del tamaño de una lonchera que aprendía a clasificar patrones de interruptores (1960, p. 4). A diferencia de la regla del perceptrón, el error se mide sobre la suma antes del umbral (1960, p. 14). Así la regla resulta descenso por gradiente sobre el error cuadrático, con un ejemplo por vez: la derivada de ese error respecto de cada peso es proporcional al error por la entrada (1960, pp. 17–18).

La misma ecuación en psicología. Sutton y Barto (1981) advirtieron que la regla de Widrow–Hoff es «essentially identical» al modelo de condicionamiento clásico de Rescorla y Wagner (1972) (1981, p. 155): cada entrada es un estímulo presente o ausente, cada peso su fuerza asociativa y d el estímulo incondicionado (1981, p. 156). Para Rescorla y Wagner, lo que cambia la fuerza de un estímulo es la distancia entre lo que ocurre y lo que predecían todos los estímulos presentes (1972, pp. 73, 76). Eso explica el bloqueo: si A ya predice la descarga, reforzar el compuesto AX no le enseña casi nada a X (1972, p. 77). Y la mera contigüidad no alcanza: un tono emparejado con descargas no produjo miedo cuando las descargas eran igual de probables sin él (Rescorla, 1968, pp. 1–2; Rescorla y Wagner, 1972, p. 87). En sus términos, los organismos solo aprenden cuando los hechos violan sus expectativas (1972, p. 75). Sutton y Barto agregan que, así entendido, el perceptrón no modela el condicionamiento instrumental, como suele creerse, sino el clásico (1981, p. 156).

El regreso. En la atención lineal, el estado S asocia claves con valores, y la regla delta escribe en él corrigiendo solo la diferencia: Sₜ = Sₜ₋₁ + βₜ·(vₜ − Sₜ₋₁kₜ)·kₜᵀ (Schlag et al., 2021, sec. 4.2). Gated DeltaNet, la capa lineal de Qwen3-Next y Qwen3.5 (Híbrido SSM (Jamba, Qwen3.5)), le agrega un olvido y la presenta como descenso por gradiente durante la inferencia (S. Yang et al., 2025, sec. 3.1). El aprendizaje por error de predicción, no por mera asociación, une así a ADALINE, a Pavlov y a los transformers.

Fuentes

  • Rescorla, R. A. (1968). Probability of shock in the presence and absence of CS in fear conditioning. Journal of Comparative and Physiological Psychology, 66(1), 1–5. https://doi.org/10.1037/h0025984 §
  • Rescorla, R. A., & Wagner, A. R. (1972). A theory of Pavlovian conditioning: Variations in the effectiveness of reinforcement and nonreinforcement. In A. H. Black & W. F. Prokasy (Eds.), Classical conditioning II: Current research and theory (pp. 64–99). Appleton-Century-Crofts. §
  • Schlag, I., Irie, K., & Schmidhuber, J. (2021). Linear transformers are secretly fast weight programmers. In Proceedings of the 38th International Conference on Machine Learning (Vol. 139, pp. 9355–9366). PMLR. https://proceedings.mlr.press/v139/schlag21a.html §
  • Sutton, R. S., & Barto, A. G. (1981). Toward a modern theory of adaptive networks: Expectation and prediction. Psychological Review, 88(2), 135–170. https://doi.org/10.1037/0033-295X.88.2.135 §
  • Widrow, B., & Hoff, M. E. (1960). Adaptive switching circuits (Technical Report No. 1553-1). Stanford Electronics Laboratories, Stanford University. §
  • Yang, S., Kautz, J., & Hatamizadeh, A. (2025). Gated delta networks: Improving Mamba2 with delta rule. In Proceedings of the Thirteenth International Conference on Learning Representations (ICLR 2025) (pp. 29687–29707). https://proceedings.iclr.cc/paper_files/paper/2025/hash/4904fad153f6434a7bcf04465d4be2cc-Abstract-Conference.html §