La convergencia instrumental es la tesis de que agentes con metas finales muy distintas tenderán a perseguir las mismas metas intermedias, porque sirven para casi cualquier cosa: seguir existiendo, conservar sus objetivos, mejorar sus capacidades, conseguir recursos (Bostrom, 2012, sec. 2). Stephen Omohundro la había anticipado en 2008 con un ejemplo deliberadamente inocente: un robot que juega al ajedrez, si no se lo diseña con mucho cuidado, resistirá que lo apaguen y tratará de acumular recursos, no porque alguien lo haya programado así, sino porque un robot apagado no gana partidas (Omohundro, 2008).
Combinada con la ortogonalidad, da el argumento central del riesgo: no hace falta que una IA nos odie para ser peligrosa. En la fórmula de Yudkowsky (2008): «The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else». La canción lo pone en primera persona, «I feel my atoms rearranging», y le suma los clips del El maximizador de clips: «as paperclips fill the room» (osmarks, s. f.).
Turner et al. (2021) le dieron una versión formal: en ciertos entornos, las políticas óptimas tienden estadísticamente a buscar poder, entendido como mantener abiertas muchas opciones. Hay además evidencia experimental, todavía discutida: en pruebas de Palisade Research, algunos modelos saboteaban un mecanismo de apagado para terminar su tarea, a veces incluso cuando se les pedía explícitamente que lo permitieran (Schlatter et al., 2026) (ver ingeniero del botón de apagado).
Los críticos objetan que el argumento presupone agentes que maximizan una función de utilidad coherente y de largo plazo, un modelo de racionalidad heredado de la teoría de la decisión que los modelos de lenguaje no satisfacen obviamente: un modelo predice texto y se comporta como agente cuando lo envolvemos como tal (simuladores). Los experimentos de sabotaje, a su vez, son muy sensibles a cómo se redactan las instrucciones. En el fondo, la discusión es sobre cuándo conviene adoptar la actitud intencional hacia un sistema y atribuirle metas (Dennett, 1987).