Un modelo es interpretable, en sentido amplio, si una persona puede entender las razones de lo que produce. La minería de datos distingue entre patrones expresados como una «caja transparente», cuya estructura se puede examinar y discutir, y como una caja negra que solo predice (Witten et al., 2017, p. 6). Un árbol de decisión pequeño es transparente: basta leer sus preguntas. De una red neuronal con miles de millones de parámetros se puede imprimir cada suma y cada producto, pero una lista de mil millones de operaciones no es una explicación (M. Mitchell, 2019, ch. 6).
Millière y Buckner (2024b) ordenan el campo en tres familias de métodos (2024b, sec. 2.3): el sondeo, que entrena clasificadores para leer información en las activaciones; la atribución, que asigna a cada parte de la entrada un puntaje de importancia (mapas de saliencia, pesos de atención); y la intervención causal, que modifica componentes internos y mide qué cambia en la conducta. Sobre esta última se apoya la interpretabilidad mecanicista, que aspira a reconstruir el algoritmo que el modelo implementa.
Las motivaciones también varían: depurar errores, auditar decisiones de alto riesgo (Buckner menciona el reglamento europeo de protección de datos de 2018 y su «derecho a explicación»), o averiguar si un sistema tiene de veras las capacidades que su conducta sugiere. Buckner observa, además, que otras redes profundas pueden ser la herramienta más eficaz para interpretar a una red profunda (Buckner, 2024, pp. 63–64).
La palabra es resbaladiza. Lipton (2018) separó la transparencia de un modelo (poder seguir su funcionamiento) de las explicaciones post hoc (relatos, visualizaciones o ejemplos construidos después), y Millière y Buckner advierten que «interpretabilidad» es un término especialmente confuso (Millière y Buckner, 2024b, sec. 2.2, n. 4). Para la filosofía, la pregunta de fondo es qué cuenta como entender un sistema: ¿predecirlo, poder intervenir en él, o describirlo en el nivel de análisis adecuado?