Chollet (2021) define una representación como una manera distinta de mirar, es decir, de codificar, los mismos datos: una imagen en color puede codificarse en RGB o en HSV, y la tarea de seleccionar los píxeles rojos es fácil en la primera y difícil en la segunda. Una buena representación vuelve simple la regla que resuelve la tarea, y por eso, sostiene, el problema central del aprendizaje automático es encontrar transformaciones de los datos que produzcan representaciones útiles (2021, sec. 1.1.3).
Witten et al. (2017) distinguen tres enfoques: el aprendizaje clásico, que predice a partir de atributos fijados por el usuario; el aprendizaje de representaciones, que transforma esos atributos en una representación intermedia antes de predecir; y el aprendizaje profundo, que encadena muchas de esas transformaciones (2017, p. 418). El análisis de componentes principales es un ejemplo sin redes; la capa oculta de un perceptrón multicapa, que se adapta junto con la capa de salida, uno con redes (2017, pp. 418–419). El caso emblemático en lenguaje son los embeddings: word2vec aprende un vector por palabra como subproducto de predecir qué palabras aparecen juntas (Alammar y Grootendorst, 2024, p. 8), y BERT produce vectores que dependen del contexto. Lo aprendido suele reutilizarse en otras tareas (aprendizaje por transferencia).
Una advertencia terminológica para filósofos. «Representación» significa aquí codificación útil para una tarea, no un estado con contenido semántico y condiciones de corrección. Si los vectores de una red representan algo en el sentido de la filosofía de la mente, si tienen intencionalidad o solo covarían con propiedades del mundo, es una pregunta que el término técnico no responde; el sondeo y la interpretabilidad mecanicista intentan acotarla empíricamente. Buckner (2024) propone leer estas transformaciones en clave empirista: reformula el principio de copia de Hume como un principio de transformación, según el cual los conceptos simples derivan de transformaciones sistemáticas y generales de las impresiones sensoriales (2024, p. 19) (ver abstracción).