Blockhead es la máquina que Ned Block imaginó para mostrar que la conducta, por sí sola, no alcanza para atribuir inteligencia. Aprobaría cualquier test de Turing y, sin embargo, según Block, tendría «the intelligence of a toaster» [la inteligencia de una tostadora; trad. propia] (Block, 1981, p. 21).
La máquina
El blanco de Block es un conductismo refinado, que él llama concepción «neo-Turing» de la inteligencia: la inteligencia conversacional sería la capacidad de producir una secuencia sensata de respuestas verbales ante cualquier secuencia de estímulos verbales (1981, p. 18). Para refutarla, considera todas las cadenas de oraciones que una persona puede tipear en una hora o menos. Como el vocabulario es finito, el conjunto es enorme pero finito. De él se seleccionan las cadenas «sensatas», es decir, conversaciones en las que al menos una de las partes contribuye con sensatez. Un equipo grande e ingenioso, con mucho financiamiento, podría listarlas; para que suenen convincentes, quizás imitaría a una persona concreta, la tía Bertha del propio Block (1981, pp. 19–20).
La máquina es trivial: cuando el interrogador escribe A, busca las cadenas que empiezan con A y devuelve la segunda oración de una de ellas; cuando llega C, busca las que empiezan con A, B y C, y así sucesivamente. Equivale a recorrer un árbol (1981, p. 20). Toda la inteligencia que exhibe, concluye Block, es la de sus programadores (1981, p. 21). De ahí su tesis, el psicologismo: que una conducta sea inteligente depende del carácter del procesamiento interno que la produce (1981, p. 5). El apodo «Blockhead» se lo puso la literatura posterior.
¿Y si no cabe en el universo?
Block mismo plantea la objeción. Siguiendo una estimación de George Miller, calcula que un test de una hora requeriría del orden de 10¹⁵⁰⁰ cadenas, un número mayor que el de partículas del universo. Su respuesta: el argumento solo necesita que la máquina sea lógicamente posible, porque el conductismo se ofrecía como un análisis conceptual (1981, p. 30). Tampoco hay chovinismo: el psicologismo no exige que toda inteligencia se procese como la nuestra, solo excluye ciertos tipos de procesamiento (1981, p. 21).
Blockhead y los LLM
Para Millière y Buckner (2024a), GPT-4 puede parecer un experimento mental hecho realidad: si todo lo que hicieran los LLM fuera recuperar respuestas memorizadas, serían «Blockheads come to life» (2024a, sec. 1). La sospecha no es ociosa. Las redes profundas pueden memorizar etiquetas asignadas al azar, los modelos reproducen a veces textos protegidos palabra por palabra, y la contaminación de datos hace que un buen puntaje en un benchmark pueda deberse a haber visto las preguntas (Millière y Buckner, 2024a, sec. 1; Sainz et al., 2023). Millière y Buckner proponen tomar a Blockhead como hipótesis nula y ver qué evidencia la refuta.
Hay una desanalogía de escala. Un modelo como GPT-3 tiene unos 175.000 millones de parámetros (Buckner, 2024, p. 59): unas 1500 órdenes de magnitud menos que las cadenas de Block. No puede ser una tabla; tiene que comprimir, y comprimir bien es generalizar. La interpretabilidad aporta evidencia más directa: en el fenómeno del grokking, una red pasa de memorizar pares de entrada y salida a implementar un algoritmo general para la suma modular, lo que según Millière y Buckner (2024b) habla en contra de la imagen de los modelos como tablas gigantes (2024b, sec. 2.5). Chollet (2019), por su parte, recuerda que la habilidad se puede «comprar» con más datos o más conocimiento previo sin ganar una pizca de generalización (2019, sec. II.1.1).