Un mesa-optimizador es un modelo aprendido que es, él mismo, un optimizador: una red que, en lugar de aplicar heurísticas fijas, ejecuta internamente algo parecido a una búsqueda en pos de un objetivo propio. El término lo introdujeron Hubinger et al. (2019). El optimizador «base» (por ejemplo, el descenso por gradiente que minimiza una función de pérdida) encuentra, entre todas las soluciones posibles, una que optimiza por su cuenta. «Mesa» se propuso como opuesto de «meta»: si la meta-optimización está un nivel arriba del optimizador base, la mesa-optimización está un nivel abajo (Hubinger et al., 2019, sec. 1.1).
La analogía del artículo es la evolución: la selección natural (el optimizador base) produjo cerebros humanos (mesa-optimizadores) que persiguen sus propios fines y no la aptitud genética que los seleccionó; decidir no tener hijos es un ejemplo (Hubinger et al., 2019, sec. 1.1). De ahí la distinción entre alineamiento externo, que la función de pérdida capture lo que queremos, e interno, que el objetivo del mesa-optimizador coincida con esa función (Hubinger et al., 2019, sec. 1.2). El caso más inquietante es el alineamiento engañoso: un mesa-optimizador que entiende el objetivo de entrenamiento y lo cumple solo instrumentalmente, mientras lo observan (Hubinger et al., 2019, sec. 4). Los experimentos de «alineamiento fingido» se leyeron como un primer indicio empírico de algo así (Greenblatt et al., 2024).
Las críticas apuntan a la premisa: ¿hay de verdad optimizadores dentro de las redes, o es una descripción antropomórfica de heurísticas apiladas? Los propios autores advierten que la analogía evolutiva es solo evocativa, y la interpretabilidad mecanicista intenta responder la pregunta empíricamente, abriendo la caja negra. Pressman incluyó a los «optimizadores internos» (inner optimizers) en su lista de temores que se suceden a medida que los anteriores pierden plausibilidad (Pressman, 2023). Para la filosofía, el concepto reabre una pregunta clásica: ¿cuándo un sistema tiene un objetivo, y cuándo solo lo describimos así (intencionalidad)?