En la tabla de datos clásica, cada fila es un ejemplo (una instancia) y cada columna un atributo o feature (Witten et al., 2017, p. 53): edad, astigmatismo, humedad, cantidad de veces que aparece «gratis» en un correo. Pueden ser numéricos o nominales, es decir, categorías sin orden ni distancia, como «soleado» o «nublado» (Witten et al., 2017, p. 54). Antes del aprendizaje profundo, elegir y construir buenos atributos era la parte más importante del trabajo: la ingeniería de atributos (Chollet, 2021, sec. 1.2.6).
Chollet (2021) da un ejemplo claro. Para leer la hora en la foto de un reloj se puede entrenar una red sobre los píxeles crudos, o bien extraer a mano el ángulo de cada aguja; con esos dos atributos el problema es tan fácil que ya no hace falta aprendizaje automático (2021, sec. 5.4.2). Un buen atributo expresa el problema de un modo más simple.
La gran novedad del aprendizaje profundo fue automatizar este paso: las capas intermedias de una red aprenden sus propios atributos a partir de datos crudos, todos a la vez y guiadas por un único objetivo (Chollet, 2021, sec. 1.2.6). Esto es el aprendizaje de representaciones. El precio es que los atributos aprendidos no tienen nombre: son direcciones en un espacio de activaciones que hay que interpretar después (ver rasgos y superposición, donde feature se traduce como rasgo).
El lingüista tiene un precedente ilustre: los rasgos distintivos de la fonología, que describen cada fonema como un haz de propiedades binarias del tipo [±sonoro]. Allí los rasgos eran hipótesis teóricas explícitas; en una red profunda son subproductos del entrenamiento, y la interpretabilidad intenta averiguar si alguno coincide con las categorías que usaríamos nosotros.