Una tarea secuencia a secuencia toma una cadena de símbolos y devuelve otra, sin correspondencia uno a uno entre posiciones: «I love llamas» (tres palabras) se traduce al neerlandés como «Ik hou van lama's» (cuatro) (Alammar y Grootendorst, 2024, p. 11). Traducción, resumen, respuesta a preguntas, corrección gramatical e incluso el análisis sintáctico escrito como cadena caben en este molde. Un lingüista reconocerá la noción de transducción: una relación entre dos lenguajes computada por una máquina.
La arquitectura que la volvió tratable con redes es el codificador–decodificador: una red lee la entrada y la resume en un vector de contexto; otra genera la salida palabra por palabra, en forma autorregresiva (Sutskever et al., 2014; Alammar y Grootendorst, 2024, pp. 11–12). Es la especie Seq2seq. Su punto débil era el cuello de botella: todo el contenido de la oración debía caber en un único vector, y las oraciones largas se degradaban. La atención lo resolvió dejando que el decodificador consultara todos los estados del codificador (Atención de Bahdanau) (Bahdanau et al., 2015; Buckner, 2024, pp. 269–270), y el Transformer conservó la atención y descartó la recurrencia.
Ejemplo mínimo. Entrada: «resumí: El directorio se reunió el lunes y, tras cinco horas de debate, aprobó el presupuesto.» Salida: «Se aprobó el presupuesto.» Ni la longitud ni el orden de la salida están fijados por la entrada. T5 llevó la idea al extremo: toda tarea, sea clasificar, traducir o puntuar similitud, se reescribe como texto que entra y texto que sale, con el nombre de la tarea como prefijo (Raffel et al., 2020).
En sentido amplio, un LLM conversacional también es una máquina secuencia a secuencia: recibe un texto e intenta completarlo (Alammar y Grootendorst, 2024, p. 22). La diferencia es de arquitectura, no de tarea: los modelos tipo GPT hacen todo con un solo decodificador, que trata entrada y salida como una única secuencia.