Bender y Koller (2020) llaman forma a cualquier realización observable del lenguaje: marcas en un papel, píxeles o bytes, movimientos articulatorios. El significado, en cambio, es una relación entre la forma y algo exterior al lenguaje: los pares (e, i) de expresiones e intenciones comunicativas que pueden evocar, mediados por el significado convencional que el sistema lingüístico asigna a cada expresión. Comprender es recuperar i a partir de e (2020, pp. 5186–5187). De ahí la tesis central: un modelo de lenguaje, entrenado solo para predecir cadenas, no tiene en principio cómo aprender esa relación (2020, p. 5185).
La ilustración es el El pulpo de las profundidades: un pulpo hiperinteligente intercepta el cable telegráfico entre dos náufragos, aprende a predecir las respuestas de uno y termina suplantándolo. Sale airoso en la charla trivial; tropieza cuando le piden ayuda para construir una catapulta de cocos, y fracasa ante un oso. Si A encontraba sentido en esos mensajes, no era porque lo tuvieran, sino porque A podía dárselo (2020, pp. 5188–5189). Los autores conceden que los modelos aprenden «algún reflejo del significado en la forma», útil pero incompleto (2020, p. 5193).
Las réplicas atacan distintas premisas (Millière y Buckner, 2024a, sec. 3.3). Desde la semántica de rol conceptual, Piantadosi y Hill (2022) sostienen que buena parte del significado léxico está en las relaciones internas entre representaciones, y que eso sí puede aprenderse de la distribución: sería la cara inferencial de la competencia semántica, distinta de la referencial. Desde el externismo, Mandelkern y Linzen (2024) proponen que un modelo podría referir heredando las cadenas causales de uso de la comunidad que produjo sus textos. Y hay quien duda de que el texto sea «pura forma»: está lleno de descripciones, instrucciones y código con pruebas, que los propios autores reconocen como un anclaje parcial (Bender y Koller, 2020, p. 5193).
Nótese que el argumento presupone una noción griceana del significado. Bender y Koller leen el lema «el significado es el uso» como uso para comunicar intenciones a personas reales, no como distribución en un corpus (2020, p. 5191). Un inferencialista trazaría la frontera en otro lugar: ¿en cuál?