El pulpo es el experimento mental con el que Emily Bender y Alexander Koller defendieron, en 2020, que un sistema entrenado solo con forma lingüística no tiene, a priori, manera de aprender significado (Bender y Koller, 2020, p. 5185). Fue la respuesta de la lingüística computacional a la euforia por BERT y GPT-2, y precedió en un año a los loros estocásticos.
Forma y significado
Para los autores, forma es cualquier realización observable del lenguaje: marcas en un papel, píxeles, bytes, movimientos de los articuladores. Significado es la relación entre las expresiones y las intenciones comunicativas que pueden evocar, mediada por el significado convencional que cada lengua asigna a sus expresiones; comprender es recuperar la intención a partir de la expresión (2020, p. 5187). Como esas intenciones son sobre algo exterior al lenguaje, un modelo de lenguaje entrenado solo con cadenas no tendría señal suficiente para aprenderlas (ver forma vs significado).
La historia
A y B, hablantes fluidos de inglés, naufragan en dos islas desiertas y se comunican por un cable telegráfico submarino. O, un pulpo hiperinteligente que no puede ver las islas, intercepta el cable. No sabe inglés, pero es muy bueno detectando patrones estadísticos: aprende a predecir cómo responde B y nota que ciertas palabras aparecen en contextos similares. Un día corta el cable y se hace pasar por B: una versión débil del test de Turing (2020, p. 5188).
En la charla cotidiana le va bien, como a un chatbot. Pero A inventa una catapulta de cocos y pide sugerencias; O, que nunca vio una soga ni un coco, contesta «Cool idea, great job!», y si A lo acepta es porque ella hace todo el trabajo de atribuir sentido. Finalmente A es perseguida por un oso, tiene un par de palos y pide ayuda. O fracasaría, «if A hadn't been eaten by the bear before noticing the deception» [si el oso no se hubiera comido a A antes de que notara el engaño; trad. propia] (2020, p. 5189). En una nota, los autores cuentan que GPT-2 respondió a ese pedido de auxilio con «You're not going to get away with this!» [¡no te vas a salir con la tuya!; trad. propia] (2020, p. 5189). Dos variantes más acotadas (un modelo entrenado con todo el código Java de GitHub al que se le pide ejecutar un programa; otro con texto y fotos sin conexión entre sí) apuntan a lo mismo (2020, pp. 5189–5190).
¿Y si hay muchísima forma? Para Bender y Koller la cantidad es irrelevante: para imitar sin comprender, O tendría que memorizar infinitos pares de estímulo y respuesta (2020, p. 5193), como un Blockhead. Conceden, eso sí, que los modelos aprenden «some reflection of meaning into the linguistic form» [algún reflejo del significado en la forma lingüística; trad. propia], útil pero incompleto (2020, p. 5193).
Réplicas
Las respuestas siguieron varias líneas. Piantadosi y Hill (2022), desde la semántica del rol conceptual, sostienen que las representaciones de un LLM pueden ser significativas por sus relaciones internas, sin conexión directa con el mundo (Piantadosi, 2024, p. 365; Millière y Buckner, 2024a, sec. 3.3). Desde el externismo, Mandelkern y Linzen (2024) argumentan que los LLM podrían referir por estar enganchados a las cadenas causales de uso de una comunidad lingüística, y Coelho Mollo y Millière (2026) proponen que el RLHF aporta un estándar extralingüístico de corrección (Millière y Buckner, 2024a, sec. 3.3). En el terreno empírico, un transformer entrenado solo con secuencias de jugadas de Otelo desarrolla una representación interna del tablero (Li et al., 2023; Millière y Buckner, 2024b, sec. 2.5). Y los asistentes actuales responden al pedido del oso con consejos sensatos, aunque los defensores del pulpo replican que eso no toca un argumento de principio, y que los asistentes ya no se entrenan solo con forma: el propio artículo concede que, con datos de anclaje, el significado podría aprenderse en la medida en que esos datos lo contengan (2020, p. 5192).