La habitación china es el argumento de John Searle contra lo que llamó «IA fuerte»: la tesis de que una computadora con el programa adecuado no simula una mente sino que literalmente la tiene, y de que ese programa explica la cognición humana (Searle, 1980, p. 417). Contra la «IA débil», que usa la computadora como herramienta para estudiar la mente, Searle no tiene objeciones.
El argumento
Searle, que no sabe chino, está encerrado en una habitación. Recibe tandas de escritura china que para él son garabatos, y reglas en inglés para correlacionar unos símbolos con otros solo por su forma. Sin que él lo sepa, quienes le pasan los papeles llaman a una tanda «guion», a otra «historia» y a otra «preguntas»; a lo que él devuelve, «respuestas», y a las reglas, «el programa». Con práctica, sus respuestas se vuelven indistinguibles de las de un hablante nativo; aun así, dice, «I still understand nothing» [sigo sin entender nada; trad. propia] (1980, p. 418). El blanco inmediato eran los programas de Roger Schank que respondían preguntas sobre historias de restaurantes, pero Searle aclara que el argumento vale para ELIZA, para SHRDLU y para cualquier simulación mediante una máquina de Turing (1980, p. 417).
La conclusión: manipular símbolos formales no basta para comprender, porque los programas tienen «only a syntax but no semantics» [solo sintaxis, sin semántica; trad. propia] (1980, p. 422). Confundir simulación con duplicación es el mismo error que creer que la simulación de un incendio quema el barrio (1980, p. 423). La intencionalidad, sostiene, es un fenómeno biológico, tan dependiente de su bioquímica como la lactancia o la fotosíntesis (1980, p. 424).
Las réplicas
Searle anticipó varias respuestas y las rotuló con su «origen geográfico» (1980, p. 418). La réplica de los sistemas (Berkeley) dice que el hombre no entiende, pero el sistema completo sí; Searle responde que el hombre puede memorizar las reglas y hacer todo en su cabeza, y seguirá sin entender (1980, p. 419). La réplica del robot (Yale) propone darle cámaras y motores; Searle contesta que el hombre adentro solo recibiría más símbolos, como un homúnculo que no sabe lo que pasa (1980, p. 420). La réplica del simulador de cerebro (Berkeley y el MIT) propone simular las sinapsis de un hablante de chino; Searle imagina entonces un sistema de cañerías y válvulas, y concluye que copiar la estructura formal no copia los poderes causales (1980, p. 421).
Behavioral and Brain Sciences publicó el artículo con más de veinte comentarios. Dennett lo acusó de sofistería y describió el caso como una «bomba de intuiciones» (1980, pp. 428–429); Hofstadter lo llamó «diatriba religiosa» (1980, p. 433). En 1990, Searle adaptó el ejemplo contra el conexionismo con un «gimnasio chino» lleno de hombres que hacen de neuronas (Searle, 1990), y Paul y Patricia Churchland (1990) respondieron, en el mismo número de Scientific American, con la analogía de la «habitación luminosa».
La habitación y los LLM
La canción p(doom) canta «Trapped in the Chinese room, with a bag of shrooms» (osmarks, s. f.). Un LLM cambia la escenografía: nadie escribió su manual; son miles de millones de parámetros ajustados para predecir el próximo token. Pero el argumento es indiferente a ese cambio, porque se aplica a cualesquiera principios formales que se pongan en la computadora (1980, p. 418). Los LLM no lo refutan ni lo confirman; lo que cambian es el terreno dialéctico. La réplica de los sistemas gana interés cuando Shanahan (2024) insiste en separar el modelo «desnudo» del sistema en el que se lo integra (2024, p. 72); la del robot reaparece con los modelos multimodales y los agentes; y el problema del anclaje de los símbolos de Harnad (1990), heredero directo de Searle, se reformula para los vectores (Millière y Buckner, 2024a, sec. 3.3). El pulpo de Bender y Koller parte explícitamente de esta habitación (Bender y Koller, 2020, p. 5188).