Transparencia y Explicabilidad en la práctica
Considerando que la transparencia y la explicabilidad deben acompañar el desarrollo y la evolución de los sistemas de inteligencia artificial, así como también a todo el contexto en el que sean aplicados, se proponen algunas herramientas que faciliten la incorporación de ambos principios y que a su vez mantengan un equilibrio con los principios de seguridad, privacidad y protección.
Mediante estas herramientas se busca generar un entendimiento sobre los resultados y los datos que se utilizan, así como del funcionamiento global del sistema y sus impactos, en lenguaje claro y comprensible para todas las personas. Otro de los objetivos es promover la colaboración para disponibilizar y registrar la información de forma accesible, acorde a su clasificación según la normativa vigente, considerando la privacidad, seguridad y protección de datos.
Ejemplo: si se cuenta con un sistema de inteligencia artificial que utiliza datos personales y que fue desarrollado con un código propietario, transparentar y explicar no implica necesariamente publicar estos datos ni el código fuente. En su lugar, se puede cumplir con estos principios con la publicación de la explicación global de las características de ambos ítems para colaborar en la comprensión de las personas en cuanto a su uso, aplicación e impacto.