La palabra combina deep learning y fake y tiene autor anónimo: a fines de 2017, un usuario de Reddit llamado «deepfakes» empezó a publicar videos en los que había pegado el rostro de celebridades sobre el cuerpo de intérpretes de videos pornográficos. El uso no cambió tanto: un informe de la empresa Deeptrace estimó en 2019 que el 96 % de los deepfakes en circulación eran pornográficos, casi siempre de mujeres que no habían consentido.
La técnica original era modesta: dos autocodificadores con un codificador compartido y un decodificador por cara. Se codifica un fotograma de la persona A en el espacio latente común y se lo decodifica con el decodificador de B: el gesto es de A, la cara es de B. Después llegaron las GANs, los modelos de difusión y la clonación de voz. Buckner (2024) recuerda el video de 2018 en que Jordan Peele hacía decir a Obama un guion propio, y la «carrera armamentista» entre detectores y falsificadores que siguió (2024, p. 58). Señala también la diferencia con los ejemplos adversariales: estos engañan a un clasificador; los deepfakes engañan a la percepción humana (2024, p. 206).
El problema filosófico es epistemológico. Una grabación valía como evidencia porque era difícil de falsificar. Fallis (2021) lo formula en términos de información: si los videos falsos se vuelven baratos y verosímiles, cada video transmite menos información sobre el mundo. Chesney y Citron (2019) agregaron el reverso, el «dividendo del mentiroso»: cuando todo puede ser falso, quien aparece en un video auténtico puede negarlo. El daño no es solo que creamos lo falso, sino que dejemos de poder creer lo verdadero.
Buckner lee los mismos modelos como una imaginación artificial, capaz de componer escenas nunca vistas. ¿Qué distingue, entonces, imaginar de falsificar: la técnica, o la pretensión de que lo producido sea un registro?