ElemedexEnciclopedia de bolsillo de arquitecturas de IA

Glosario (MT) › Jerga de San Francisco

MT227

Loom (y ciborguismo)

También: telar, ciborguismo

En inglés: Loom (and cyborgism)

Interfaz arbórea creada por janus (2021) para explorar las continuaciones posibles de un modelo de lenguaje como un «multiverso»; herramienta emblemática del ciborguismo.

Loom («telar») es una interfaz para escribir con modelos de lenguaje en forma de árbol, creada por janus y presentada en febrero de 2021 para la API de GPT-3. En lugar de aceptar una única continuación, el usuario genera varias, las explora como ramas, retrocede, poda y combina: el texto deja de ser una línea y se vuelve un «multiverso» navegable. La premisa, enunciada en el propio sitio de janus, es que «language models are multiverse generators»: cada prompt abre una distribución de futuros posibles y el muestreo elige uno. Reynolds y McDonell (2021) desarrollaron el marco en un artículo sobre las visiones «multiversales» de los modelos de lenguaje.

Loom es también la herramienta emblemática del ciborguismo (cyborgism), propuesto en un post de LessWrong de febrero de 2023 firmado por NicholasKees y janus: en lugar de delegar el trabajo en agentes autónomos, usar los modelos como prótesis que amplían la agencia humana, con la persona siempre en el circuito. Explorar el árbol de continuaciones es, además, un método de investigación: permite ver la distribución y no solo una muestra, lo que conecta con la tesis de los simuladores (janus, 2022).

La canción cierra con una profecía: «Just as foretold by Loom» (osmarks, s. f.). El verso alude también a la colección de «profecías» que janus mantiene en su sitio, una antología cronológica de citas sobre lenguaje, mentes y máquinas que llega hasta años futuros y que, advierte el propio sitio, incluye pasajes apócrifos. El chiste funciona en dos planos: los modelos «predicen» texto, y un árbol de predicciones bien cultivado puede leerse como un oráculo.

Para lingüistas y filósofos, Loom vuelve tangible lo que la interfaz de chat oculta: que la «respuesta» de un modelo es una muestra de una distribución de probabilidad, y que la impresión de una voz única es un efecto del muestreo. La objeción razonable al ciborguismo es la de cualquier práctica artesanal: sus hallazgos dependen de la pericia de quien opera y son difíciles de reproducir.

Fuentes