Documentación exhaustiva y control de casos
Es importante contar con información básica y comprobable sobre el caso de aplicación de inteligencia artificial específico y documentación exhaustiva en la cual se registra la información vinculada al desarrollo de la solución, al tratamiento de riesgos, el método de control y la auditoria de la evolución del caso de aplicación. Toda esta información ayuda a la mejora continua del caso y aporta elementos para la explicabilidad de su funcionamiento.
Aunque este documento no incluye una especificación exhaustiva sobre cómo realizar la documentación y dónde debe estar respaldada, se recomienda que la documentación sea respaldada en los repositorios que establezca la organización y esté disponible para su acceso y visualización por parte de los equipos involucrados (según nivel de autorización) y auditorías, así como también considerar las recomendaciones para su gestión contenidas en este documento. Por mas información consultar el capítulo Recomendaciones sobre la gestión de la documentación.
Respecto a qué información se debe registrar, el criterio no dista de lo que se debe mantener en cualquier tipo de desarrollo de software, no obstante, se pone énfasis en el conjunto mínimo de información que debe tenerse en cuenta en estos casos.
Conjunto mínimo de información a documentar y proceso de gestión
- Información general del caso: es la requerida en la publicación de los casos de aplicación de inteligencia artificial. Por más información consultar el capítulo Reporte de casos en el Observatorio de Inteligencia Artificial.
- Equipos involucrados, personas interesadas, y público al que impacta: se deben especificar los organismos, áreas y equipos involucrados en el desarrollo y en la toma decisiones del sistema. También se debe identificar el público impactado por el resultado obtenido.
- Productos y servicios: deben explicitarse los productos y servicios que están haciendo uso del sistema de inteligencia artificial, independientemente del impacto que tenga sobre este.
- Datos (entrada y entrenamiento): deben identificarse y registrarse los siguientes aspectos de los datos utilizados:
- tipos de datos y metadatos
- la clasificación de datos (datos personales, datos sensibles, entre otros).
- la fuente de obtención de los datos y sus responsables.
- el proceso de obtención de los datos.
- los tratamientos previos a convertirlos en entrada del sistema.
- valoración general de la calidad de estos.
- justificación de los datos seleccionados y cuál es su aporte a la obtención del resultado.
- Explicitar el proceso de accionar y la toma de decisiones del sistema de inteligencia artificial: debe documentarse detalladamente el grado de automatismo del accionar del sistema indicando si actúa de forma autónoma, o si existe una intervención humana previa al accionar y tomar la decisión, entre otros.
- Trazabilidad de las decisiones: se debe contar con registros que permitan la trazabilidad sobre los procesos y subprocesos vinculados a la toma de decisiones en los cuales interviene el sistema, los equipos involucrados, las acciones y decisiones tomadas haciendo uso de un sistema de inteligencia artificial. Es recomendable reportar estos registros de forma clara para todas las personas y tener identificados los distintos factores que afectan el comportamiento del sistema, ya sean internos o externos. El objetivo es contar con información detallada del contexto que hace uso del sistema y dónde impacta.
- Componentes del sistema de IA: se debe contar con documentación de la arquitectura del sistema, en la que se especifiquen como mínimo los componentes, ya que incide en su comportamiento y en el vínculo entre ellos.
- Auditoría y control: especificar si se han definido procesos o se han aplicado mecanismos de auditoría y control del funcionamiento del sistema y su contexto.
- Impacto del sistema de IA: registrar la categoría de los impactos qué se busca con la aplicación del sistema de inteligencia artificial tales como: eficiencia del organismo, beneficio en la ciudadanía, derechos humanos, entre otros.
- Riesgos del sistema de IA: debe realizarse una gestión de riesgos rigurosa y acorde al contexto del sistema, prestando especial atención en aquellos que puedan vulnerar potencialmente los derechos humanos.
También se sugiere como referencia el Modelo de Calidad de Software (AGESIC, 2019) donde se presentan dos procesos de desarrollo tipo y se brindan algunas pautas para su documentación.