En la atención cruzada hay dos secuencias. Una (Y) formula las consultas; la otra (X) aporta claves y valores:
AtenciónCruzada(Y, X) = softmax((Y·W_Q)(X·W_K)ᵀ / √dₖ) · (X·W_V)
En el Transformer original, cada bloque del decodificador tiene una capa así: sus posiciones (el texto de llegada) consultan la salida del codificador (el texto de partida), de modo que cada palabra que se escribe puede mirar toda la oración de origen (Vaswani et al., 2017, sec. 3.2.3; Alammar y Grootendorst, 2024, pp. 16–17). Es la diferencia con la autoatención, donde las tres cosas salen de la misma secuencia.
Genealogía. La atención de Atención de Bahdanau ya era cruzada: al generar cada palabra francesa, el decodificador ponderaba las palabras inglesas (Bahdanau et al., 2015, sec. 3.1). Sus mapas de pesos funcionan como alineamientos blandos. Para traducir the European Economic Area por la zone économique européenne, el modelo alinea zone con Area saltando dos palabras y luego retrocede de a una para completar la frase: el orden de adjetivo y sustantivo se invierte (Bahdanau et al., 2015, sec. 5.2.1).
Dónde está hoy. En los modelos codificador–decodificador como T5, y como puente entre modalidades: en la difusión latente, las capas de atención cruzada permiten que la imagen en construcción «consulte» el texto de la instrucción (Rombach et al., 2022) (Modelo de difusión). Los decodificadores solos como GPT-3 no la tienen: todo (la instrucción, el documento, la respuesta) va en una única secuencia y se resuelve con autoatención.
Un ángulo filosófico. La atención cruzada es el lugar de la arquitectura donde una representación queda conectada con otra: una palabra con su traducción, una región de imagen con una frase. Es tentador leer esos pesos como referencia o como anclaje (ver anclaje de símbolos). Pero son correlaciones aprendidas, y blandas: a diferencia de los alineamientos «duros» de la traducción estadística, no obligan a emparejar cada palabra con otra, ni a enviar a «ninguna parte» las que no tienen correlato (Bahdanau et al., 2015, sec. 5.2.1). Que dos cosas estén alineadas no dice todavía de qué trata ninguna de las dos.