Un modelo de lenguaje es una máquina de predecir: recibe un texto, el prompt, e intenta predecir las palabras que lo siguen (Alammar y Grootendorst, 2024, p. 173). El prompt más básico es una oración a medio terminar; el más elaborado puede combinar varios componentes: una persona o rol («sos un experto en astrofísica»), la instrucción, el contexto, el formato de salida, la audiencia, el tono y los datos (Alammar y Grootendorst, 2024, pp. 177–178). A la práctica de ajustar esos componentes por ensayo y error se la llama prompt engineering.
Lo decisivo es que un prompt no es una orden en el sentido en que lo es una instrucción de un programa. Cuando alguien escribe «Todos los humanos son mortales y Sócrates es humano, por lo tanto…», no le está pidiendo al modelo que haga una deducción, sino, en rigor, que responda qué palabras suelen seguir a esa secuencia en el corpus; que la respuesta sea «Sócrates es mortal» es una buena noticia, pero no una prueba (Shanahan, 2024, p. 76). Por eso detalles que para un humano son triviales, como un signo de puntuación o el orden de las partes, pueden cambiar mucho el resultado, y por eso Buckner (2024) describe la ingeniería de prompts como un retoque ad hoc sin mucha guía sistemática (2024, pp. 278–279). También importa la posición: los modelos tienden a atender más al principio y al final de un prompt largo que al medio (Alammar y Grootendorst, 2024, p. 177).
Los prompts que ve el usuario no son todo lo que ve el modelo: suele haber un prompt de sistema invisible y una plantilla de chat. Y el prompt ocupa lugar en la ventana de contexto, medido en tokens. Para un lingüista, el prompt es contexto en sentido pragmático: no transmite una intención que el modelo reconozca, sino que desplaza la distribución de continuaciones posibles. Shanahan (2024) lo resume así: la ingeniería de prompts seguirá siendo necesaria mientras no entendamos mejor la relación entre lo que decimos y lo que queremos (2024, p. 72).