-
Joaquin Meseguer Yebra ha actualizado el archivo: Transparencia, explicabilidad y confianza en los sistemas de aprendizaje automático a Grupo de trabajo sobre acceso a información pública hace 2 meses, 1 semana
Artículo de Andrés Páez, 1 Profesor Titular del Departamento de Filosofía e Investigador del Centro de Investigación y Formación en Inteligencia Artificial (CinfonIA) de la Universidad de los Andes, Bogotá, Colombia.
Uno de los principios éticos mencionados más frecuentemente en los lineamientos para el desarrollo de la inteligencia artificial (IA) es la transparencia algorítmica. Sin embargo, no existe una definición estándar de qué es un algoritmo transparente ni tampoco es evidente por qué la opacidad algorítmica representa un reto para el desarrollo ético de la IA. También se afirma a menudo que la transparencia algorítmica fomenta la confianza en la IA, pero esta aseveración es más una suposición a priori que una tesis basada en evidencia empírica. Tampoco se discute mucho hasta qué punto es técnicamente posible volver transparente la caja negra de la IA a través de los métodos de explicabilidad. En este capítulo haré un análisis de la interrelación entre los conceptos de transparencia, explicabilidad y confianza. Inicialmente, analizaré los diferentes tipos de opacidad algorítmica para entender mejor cuál es el problema al que nos enfrentamos. En las secciones subsiguientes trazaré la relación entre explicabilidad y transparencia, y presentaré los límites de los métodos actuales de explicabilidad. En la sección final, examinaré la evidencia empírica acerca de la relación entre transparencia y confianza en las decisiones automatizadas basadas en sistemas de IA.