Compartir pesos es obligar a que varias conexiones de una red tengan siempre el mismo valor. Durante el entrenamiento, el gradiente de ese peso único es la combinación de los gradientes de todos sus usos; Rumelhart et al. (1986) ya lo resolvían promediando esas derivadas y moviendo todas las copias juntas (1986, p. 535).
Dónde aparece.
- En la convolución, el mismo filtro recorre toda la imagen: la operación equivale a multiplicar por una matriz cuyas filas repiten los mismos coeficientes desplazados (Witten et al., 2017, p. 440). Por eso Red convolucional (LeNet) tenía unas 340 000 conexiones pero solo unos 60 000 parámetros entrenables (LeCun et al., 1998, secs. II.A–B).
- En la recurrencia, las mismas matrices se aplican en cada paso temporal (Witten et al., 2017, p. 457); así Red recurrente simple (Elman) o LSTM leen secuencias de cualquier largo. Entrenarlas exige la retropropagación a través del tiempo.
- En el Transformer, los mismos pesos procesan cada posición, y la matriz de embeddings de entrada se reutiliza antes de la softmax de salida (Vaswani et al., 2017, sec. 3.4).
- En las redes siamesas, dos copias idénticas procesan dos entradas para compararlas: firmas en Bromley y colegas (1993), rostros en verificación facial (Witten et al., 2017, p. 524), oraciones en Sentence-BERT (Reimers y Gurevych, 2019).
Por qué funciona. Menos parámetros significa menos datos necesarios, pero la razón profunda es otra: lo que la red aprende en un lugar queda disponible en todos. Compartir pesos es declarar una simetría, afirmar de antemano que dos lugares de la entrada merecen el mismo tratamiento. Es un sesgo inductivo explícito. LeCun y colegas describieron la invariancia por traslación como «a priori knowledge of the task» (conocimiento a priori de la tarea), y Gary Marcus lo exhibió como innatismo encubierto; Buckner (2024) responde que se trata de un supuesto de dominio general, que ahorra recursos donde el mundo lo satisface y puede estorbar donde no (2024, pp. 20–21, 130) (ver empirismo vs innatismo).