En lugar de describir la tarea, se la muestra. Un prompt few-shot contiene K pares de entrada y salida y, al final, una entrada sin su salida; el modelo completa el hueco (Alammar y Grootendorst, 2024, pp. 180–181). Con un solo ejemplo se habla de one-shot; sin ejemplos, de zero-shot. Para GPT-3, K solía estar entre 10 y 100, lo que cabía en su ventana de contexto de 2048 tokens, y no se permitía ninguna actualización de pesos (Brown et al., 2020, sec. 2). Es la forma más visible del aprendizaje en contexto.
Uno de los experimentos de Brown et al. (2020) debería resultarle familiar a cualquier lingüista. Se le daba al modelo la definición de una palabra inventada y un ejemplo de uso de otra:
A "whatpu" is a small, furry animal native to Tanzania. An example of a sentence that uses the word whatpu is: We were traveling in Africa and we saw these very cute whatpus.
y luego se le pedía una oración con farduddle («saltar muy rápido para arriba y para abajo»). GPT-3 produjo usos plausibles e incluso conjugó correctamente un verbo inventado (screeg → screeghed) (2020, sec. 3.9.5). Los autores citan la psicología del desarrollo sobre el aprendizaje de una palabra a partir de una sola exposición (Carey y Bartlett, 1978); el antecedente más célebre es el wug test de Jean Berko (1958), que mostró que los chicos aplican reglas morfológicas a palabras que nunca oyeron: «this is a wug; now there are two…».
El few-shot es también el formato del encadenamiento de pensamiento original, con ocho ejemplos de razonamientos escritos (Wei, Wang et al., 2022). Tiene límites prácticos: los ejemplos ocupan contexto, y el orden y la elección de los ejemplos influyen en el resultado. Y deja abierta la pregunta de fondo: cuando el modelo «entiende» el patrón a partir de tres ejemplos, ¿induce una regla, como el niño del wug test, o reconoce una tarea que ya había visto mil veces durante el entrenamiento? Brown et al. (2020) dejan explícitamente abierta esa pregunta (2020, sec. 1).