En un post anterior, comentábamos algunos tipos diferentes de explicaciones que podemos esperar de un algoritmo y ahora buscamos las características que debe tener una explicación o un algoritmo explicativo. En la misma fuente utilizada en el artículo anterior, el libro 'Explainable AI: Interpreting, Explaining and Visualizing Deep Learning' editado por Wojciech Samek, Grégoire Montavon, Andrea Vedaldi, Lars Kai Hansen y Klaus-Robert Müller se mencionan las cinco características deseables en las explicaciones de la inteligencia artificial, a saber:
- Fidelidad: La explicación debe ser una representación razonable de lo que el sistema realmente hace.
- Inteligibilidad: Es decir, que sea comprensible, lo cual incluye elementos como el nivel de abstracción empleado o la interactividad.
- Suficiencia: Debe explicar tanto la función como la terminología y ser suficientemente detallado como para justificar una decisión.
- Bajo coste: El coste de obtener la explicación no debería ser dominante en el total de costes del desarrollo del elemento de inteligencia artificial
- Eficiencia: La capacidad de explicarse no debería ralentizar de manera significativa al ejecución del algoritmo.
Si se rebusca en la fuente, se ve que, en realidad, estas cinco características son un enunciado ya antiguo, realizado en 1993 por Swartout y Moore y que se refería a sistemas expertos, una forma de inteligencia artificial hoy día en desuso. Sin embargo, parece un marco adecuado todavía hoy día y perfectamente aplicable al deep learning.
Se trata, además, de unas características que unen no solo la aspiración propiamente explicativa sino también consideraciones prácticas relevantes como el coste o la eficiencia computacional, quizá más importantes todavía en la actualidad que cuando fueron enunciadas.
Las conservamos pues como marco aspiracional en los siguientes pasos en materia de explicabilidad.
No hay comentarios:
Publicar un comentario