FOOM es una onomatopeya, el ruido de algo que se enciende de golpe, elevada a tesis: una vez que exista una IA capaz de mejorar su propio diseño, pasará de nivel humano a muy superhumano en días o semanas, no en décadas. También se dice hard takeoff («despegue abrupto»), por oposición a un slow takeoff gradual. La idea madre es la «explosión de inteligencia» de I. J. Good: una máquina ultrainteligente diseñaría máquinas mejores y «the intelligence of man would be left far behind» (Good, 1966, p. 33).
La palabra se consagró en el debate entre Eliezer Yudkowsky y el economista Robin Hanson, librado en el blog Overcoming Bias a fines de 2008, retomado cara a cara en 2011 y reunido en un libro por MIRI (Hanson y Yudkowsky, 2013). Yudkowsky defendía un despegue local y veloz: un solo sistema que se escapa de la manada mediante automejora recursiva. Hanson apostaba por un crecimiento distribuido y económico, en el que muchas mejoras pequeñas se reparten entre muchos actores, como en cualquier revolución industrial. La canción toma partido sin matices: «'cause the future goes FOOM» (osmarks, s. f.).
¿Quién ganó? Las retrospectivas no se ponen de acuerdo. El progreso reciente vino más de escalar cómputo y datos (hipótesis del escalamiento) que de un programa que se reescribe a sí mismo, lo que se parece al mundo de Hanson; pero se concentra en pocos laboratorios y produce saltos que sorprenden a sus propios autores (habilidades emergentes), lo que alimenta el de Yudkowsky. Los escépticos agregan que la inteligencia está situada: depende de datos, experimentos, hardware y organizaciones, y ningún cuello de botella del mundo físico se resuelve solo con pensar más rápido. La pregunta de fondo es a la vez empírica y conceptual: ¿la inteligencia aplicada a sí misma tiene rendimientos crecientes o decrecientes?