ElemedexEnciclopedia de bolsillo de arquitecturas de IA

Glosario (MT) › Jerga de San Francisco

MT234

Racionalistas y LessWrong

También: comunidad racionalista, LessWrong, MIRI

En inglés: Rationalists and LessWrong

Comunidad surgida en torno al foro LessWrong (2009) y a Eliezer Yudkowsky, dedicada a la racionalidad bayesiana y cuna de buena parte de la jerga del riesgo de IA.

Los racionalistas son una comunidad en línea, con fuerte presencia física en la bahía de San Francisco, dedicada a mejorar el razonamiento humano: probabilidad bayesiana, sesgos cognitivos, teoría de la decisión y, desde el principio, el riesgo de la IA. Su centro es LessWrong, el foro que Eliezer Yudkowsky fundó en febrero de 2009 a partir de sus posts en Overcoming Bias, el blog de Robin Hanson; esos textos de 2006–2009, las Sequences, se reunieron en 2015 como Rationality: From AI to Zombies. El fanfic Harry Potter and the Methods of Rationality (2010–2015) fue su gran puerta de entrada, y los blogs de Scott Alexander, Slate Star Codex (2013) y Astral Codex Ten (2021), su versión más leída.

El vínculo con la IA es institucional: Yudkowsky había fundado en 2000 el Singularity Institute, hoy MIRI, y buena parte del vocabulario de este glosario (la ortogonalidad, FOOM, p(doom), el giro brusco, los mesa-optimizadores, los simuladores) se acuñó o se difundió en LessWrong y en su hermano técnico, el AI Alignment Forum. La comunidad se superpone con el altruismo efectivo e influyó tanto en los equipos de seguridad de los laboratorios como en sus críticos más alarmados. Su folclore incluye experimentos mentales que se volvieron leyenda, como el El basilisco de Roko, cuyo eco llega a la canción: «I hear the basilisk boom» (osmarks, s. f.).

Las críticas son variadas. Gebru y Torres (2024) incluyen al racionalismo en el paquete «TESCREAL» (transhumanismo, extropianismo, singularitarismo, cosmismo, racionalismo, altruismo efectivo, largoplacismo) y le atribuyen una genealogía eugenésica. Otros les reprochan los rasgos de una subcultura cerrada: jerga propia, autoridades carismáticas, profecías. Pressman, desde un lugar cercano, sostiene que figuras como Yudkowsky reaccionan ante los modelos de lenguaje como ante la refutación del trabajo de toda una vida (Pressman, 2023). Y el nombre invita a una ironía filosófica: en epistemología, estos «racionalistas» son empiristas bayesianos, más cerca de Hume que de Descartes (teorema de Bayes).

Fuentes