Sobre transparencia y explicabilidad
La transparencia y la explicabilidad en los sistemas que se aplica inteligencia artificial (IA) y en aquellos que hacen uso de estos sistemas, son principios claves para el tratamiento ético y responsable de esta tecnología. Según se establece en la Recomendación sobre la ética en la inteligencia artificial de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco, por sus siglas en inglés) “La transparencia y la explicabilidad de los sistemas de IA suelen ser condiciones previas fundamentales para garantizar el respeto, la protección y la promoción de los derechos humanos, las libertades fundamentales y los principios éticos” (UNESCO, 2021, página 11).
Adicionalmente, en los Principios de Inteligencia Artificial de la Organización para la Cooperación y el Desarrollo Económico (OCDE) (OECD, 2024) se plantea que debe existir un compromiso con la transparencia y una divulgación responsable de los sistemas de IA, proporcionando información significativa sobre ellos.
Tanto Unesco como OCDE brindan recomendaciones acerca de la información a explicitar sobre los sistemas de IA, acciones a considerar y otros aspectos vinculados al equilibrio entre distintos principios explicitados en los instrumentos mencionados, y en otros tales como la privacidad, la seguridad y la protección. El principio de Seguridad y protección de UNESCO (2024), establece:
Los daños no deseados (riesgos de seguridad) y las vulnerabilidades a los ataques (riesgos de protección) deberían ser evitados y deberían tenerse en cuenta, prevenirse y eliminarse a lo largo del ciclo de vida de los sistemas de IA para garantizar la seguridad y la protección de los seres humanos, del medio ambiente y de los ecosistemas. La seguridad y la protección de la IA se propiciarán mediante el desarrollo de marcos de acceso a los datos que sean sostenibles, respeten la privacidad y fomenten un mejor entrenamiento y validación de los modelos de IA que utilicen datos de calidad. (UNESCO, 2024, página 20)
Las recomendaciones presentes en este documento toman como referencia los marcos internacionales mencionados, adaptados para su aplicación en Uruguay, formulando un tratamiento conjunto de los conceptos de transparencia y explicabilidad por su vínculo estrecho entre ambos: el primero se vincula con el acceso a la información sobre la operación de los sistemas y el segundo refiere a que esa información sea entendible por las personas.
Este documento se fundamenta en los principios y pilares establecidos por Agesic en la Estrategia de Inteligencia Artificial para el Gobierno Digital (Agesic, 2020), que incluyen: Gobernanza de Inteligencia Artificial en la Administración Pública, Desarrollo de capacidades, relación entre Inteligencia Artificial y Ciudadanía Digital, y el Uso responsable de esta tecnología; en consonancia con el proceso de revisión y actualización de la Estrategia de Inteligencia Artificial con alcance nacional, que se lleva adelante a la fecha de elaboración de esta recomendación.
Para facilitar el acceso a información básica de los casos de aplicación de inteligencia artificial en organismos del Estado, se crea un espacio dentro el Observatorio de Inteligencia Artificial en el Estado con información sobre los casos de uso, solicitada a los organismos en el reporte periódico de nuevos casos y sus actualizaciones, lo que facilita la disponibilidad de la información en un solo lugar. Los organismos pueden reportar esta información de forma proactiva. Se recomienda realizar una adecuada gestión del conocimiento de los casos reportados para que, de ser necesario, se pueda acceder a información de mayor profundidad, así como también a la solución tecnológica.
Se destaca que en materia de transparencia y explicabilidad, en Uruguay existe la Ley 18.381 sobre el Derecho de Acceso a la Información Pública que dispone que toda la información sobre manejo, control, utilización y todo lo referente a la aplicación de algoritmos utilizados por los organismos públicos, es – de principio - información pública y por lo tanto, susceptible de ser solicitada por cualquier persona. Por lo tanto, debe tenerse presente que, ante solicitudes sobre cómo es el funcionamiento en general de sistemas de inteligencia artificial dotados de algoritmos, se deberá proporcionar la información y, en el caso en que no se pueda explicar el funcionamiento, se deberá indicar las causas, quedando abierta la posibilidad de aplicar las excepciones en los casos referidos en la normativa mencionada.
Además, nuestro país cuenta con la Ley 18.331 de Protección de Datos Personales, donde se hace referencia en los artículos 13, 14 y 16 a los derechos de información, que busca dotar de mayor transparencia a los tratamientos de datos personales en general, al derecho de acceso sobre datos personales y al derecho que tienen las personas a no verse sometidas a un sistema automatizado que los afecte significativamente.