«The Bitter Lesson» es un ensayo breve que Richard Sutton, pionero del aprendizaje por refuerzo, publicó en su sitio el 13 de marzo de 2019. Su tesis: la mayor lección de setenta años de investigación en IA es que los métodos generales que aprovechan el cómputo terminan siendo los más eficaces, y por mucho (Sutton, 2019). La historia se repite en ajedrez, Go, reconocimiento del habla y visión: los investigadores incorporan su conocimiento del dominio, eso ayuda a corto plazo y resulta personalmente satisfactorio, pero a la larga se estanca, y el avance llega por el lado opuesto, con búsqueda y aprendizaje escalados. De ahí lo amargo: el éxito llega contra el enfoque centrado en lo humano que uno prefería.
La conclusión más filosófica del ensayo es que los contenidos de la mente son «tremendously,
irredeemably complex» y no deberían programarse a mano; hay que construir solo los metamétodos que
los descubren: «We want AI agents that can discover like we can, not which contain what we have
discovered» (Sutton, 2019). En San Francisco el ensayo se volvió escritura sagrada de la
hipótesis del escalamiento y epitafio de la GOFAI. La canción celebra
un modelo que funciona sin una sola línea de Lisp: «Without a single cdr» (osmarks, s. f.).
Buckner lo toma como el polo del «empirismo radical» en el debate entre empiristas e innatistas, y propone una lectura mejor: las buenas modificaciones estructurales son las que convierten más cómputo en mejor desempeño (Buckner, 2024, pp. 25–26) (ver empirismo e innatismo). Rodney Brooks respondió en 2019 que los éxitos del aprendizaje dependen de ingenio humano incorporado, como la invariancia por traslación de las redes convolucionales (sesgo inductivo). Y el propio Sutton sostuvo en una entrevista de 2025 que los modelos de lenguaje no son del todo fieles a su lección, porque dependen del conocimiento humano contenido en los textos en lugar de aprender de la experiencia.