La expresión tiene dos sentidos emparentados.
1. Las GAN. Una red generativa adversarial pone a competir dos redes. El generador G transforma ruido z, tomado de un espacio latente, en datos falsos; el discriminador D intenta distinguirlos de los verdaderos. Cada uno se entrena contra el otro en un juego de suma cero (minimax) (Goodfellow et al., 2014):
min_G max_D E[log D(x)] + E[log(1 − D(G(z)))]
Los autores lo comparan con falsificadores de billetes y policías: la competencia mejora a ambos hasta que las falsificaciones son indistinguibles (Goodfellow et al., 2014, sec. 1); Buckner (2024) usa la imagen de un falsificador frente a un banco (2024, pp. 205–208). Lo notable es que el discriminador hace las veces de una función de pérdida aprendida: nadie define qué es una «cara realista»; lo define el oponente. El riesgo típico es el colapso de modos: el generador descubre unos pocos productos que engañan al juez y deja de variar (Goodfellow y colegas lo llamaron, con humor, «el escenario Helvetica», (2014, sec. 6)). Ver GAN; hoy la generación de imágenes se apoya sobre todo en la difusión.
2. Robustez frente a ejemplos adversariales. Un año después del triunfo de AlexNet, Szegedy y colegas mostraron que cambios de píxeles imperceptibles para un humano podían hacer que esa red confundiera un micro escolar con un avestruz, y con gran confianza (M. Mitchell, 2019, ch. 6). Entrenar con esos ejemplos para volver robusto al modelo también se llama entrenamiento adversarial (Goodfellow et al., 2015). Buckner (2024) observa que el discriminador de una GAN, entrenado contra falsificaciones, termina siendo menos vulnerable a esos ataques (2024, p. 206). Los jailbreaks de los modelos de lenguaje son la versión textual del problema (Zou et al., 2023).
Un ángulo general. Witten et al. (2017) advierten que el filtrado de spam no es una clasificación común: los datos no se eligen al azar, sino que son fabricados para evadir el filtro, y el adversario también puede aprender (2017, pp. 524–525). Cuando del otro lado hay un agente con objetivos, la suposición de que el mundo no cambia porque lo estemos modelando deja de valer.