El imparable desarrollo de las aplicaciones basadas en IA en áreas sensibles, plantea una nueva crisis de fundamentos en el área. Concretamente, con la necesidad de sistemas de IA (especialmente en Aprendizaje Automatico) que satisfagan principios propios de los modelos científicos, consiguiendo soluciones de IA eXplicable (XAI). Una de las principales ventajas del uso del Análisis Formal de Conceptos (FCA) es su robusta contrapartida lógico-computacional, que permite aportar soluciones dentro del paradigma de Representación del Conocimiento y Razonamiento (KRR). En particular, sus aspectos de lógica computacional para IA, incluyendo el uso del Razonamiento Automático no sólo para la verificación de sistemas, sino también como vía prometedora en XAI.

El objetivo general es estimar la capacidad de FCA para soportar modelos de explicabilidad para Sistemas Inteligentes, y se desglosa en:

1. Extraer modelos de explicabilidad usando FCA, basados en la extracción de conceptos emergentes. Realizar los análisis de calidad oportunos, comparando los modelos desarrollados con otras propuestas alternativas.

2. Utilizar especializaciones del modelo formal general descrito en [1] para proporcionar nuevas soluciones para XAI.

3. Analizar la naturaleza argumentativa de la solución propuesta, utilizando la fundamentación para el razonamiento con reglas (implicaciones o reglas de asociación) que proporciona FCA. Estudiar el papel que pueden jugar las técnicas fast and frugal en este caso (y otras propias de la Racionalidad Acotada). Estudio de otras potenciales aplicaciones de los resultados obtenidos.

4. Estudiar el uso de técnicas de variable forgetting para minimizar el soporte de las explicaciones argumentativas. Estudiar cómo alcanzar el equilibrio entre dicha minimización y la aceptabilidad de la explicación por terceros.

[1] J. Borrego-DÍaz and J. Galán-Páez, “Knowledge representation for explainable artificial intelligence,” Complex & Intelligent Systems, pp. 1–23, 2022