Reporte de casos en el Observatorio de Inteligencia Artificial
Se propone a los organismos publicar y mantener actualizada la información sobre los casos de aplicación de inteligencia artificial en los cuales el organismo está trabajando, independientemente de su estado evolutivo, en el Observatorio de Inteligencia Artificial en el Estado. Para reportarlos deben acceder al formulario Relevamiento de Casos de Uso de IA en el Estado y completar la información correspondiente.
Conjunto de información a reportar
Según lo establecido en la Recomendación sobre la Ética de la Inteligencia Artificial de Unesco (UNESCO, 2021) las personas deben estar informadas cuando una decisión se basa en algoritmos de inteligencia artificial o se toma a partir de ellos y se debe brindar un entendimiento global del caso y el motivo por el cual se lleva a cabo. Además, se debe brindar información sobre los productos o servicios que hacen uso de esta tecnología.
Según se establece en la Recomendación del Consejo sobre Inteligencia Artificial de OCDE (OCDE, 2024) de esta forma se busca generar una comprensión general de los sistemas de inteligencia artificial, incluyendo sus capacidades y limitaciones.
A continuación, se detalla el conjunto de datos a reportar:
Datos generales identificatorios del organismo y referente que realiza el reporte.
Información del caso o iniciativa de IA:
Información general: nombre del sistema o iniciativa, descripción general, lugar donde se implementó, sector de la actividad donde se aplica, proceso de negocio o cometido al que aporta valor.
Estado de desarrollo de la iniciativa: si está en etapa inicial o proyectada, si tiene cierta evolución en su desarrollo o si está operativa. Si corresponde, se puede agregar información sobre mes y año en que es dio comienzo al caso que se reporta.
Información específica:
Tecnologías de IA aplicadas: indicar qué tecnología o tecnologías se aplican al caso que se reporta, que puede ser procesamiento de imágenes, procesamiento de lenguaje natural, automatización robótica de procesos (RPA, por sus sigla en inglés), aprendizaje automático (ML, DP o Clustering, por sus nombres técnicos), apoyo a la interacción, IA generativa u otras tecnologías.
Descripción del problema que resuelve el sistema o problema que ayuda a resolver.
Lenguajes utilizados para el desarrollo del algoritmo.
Tipo de licencia del código o librerías.
Actores y socios equipos involucrados en el desarrollo técnico del sistema.
Áreas funcionales a las cuales pertenecen las personas que participan o participaron en el diseño e implementación del sistema o iniciativa.
Tipos de datos usados en el entrenamiento: texto, imagen, video, audio, estructurado, otros datos.
Nivel de automatización: se debe especificar si en la decisión final se involucra o no la intervención de una persona y de qué forma.
Principales dificultades: detallar las que se presentaron durante la implementación.
Otras consideraciones: toda información que se considere relevante reportar, lo que se solicita en carácter opcional.
Publicación de la información en los sitios web de la forma proactiva
Es recomendable que los organismos publiquen en sus sitios web la información referente a sistemas de inteligencia artificial que estén en desarrollo u operativos, con los siguientes datos mínimos en formato accesible:
- Nombre de la iniciativa, breve descripción de la iniciativa, unidad ejecutora o dirección donde se implementó o se implementará.
- Problema que resuelve o ayuda a resolver.
- Proceso al cual aporta valor.
- Tecnología de IA aplicada.
- Público al que impacta.
Si bien esta información puede ser aportada al Observatorio de Inteligencia Artificial en el Estado de forma más completa en el formulario de Relevamiento de Casos de Uso de IA en el Estado, es deseable que el organismo divulgue en su sitio web de forma proactiva estos datos e incluir otros que considere relevantes.
De esta forma se da cumplimiento al numeral 31 del artículo 38 del Decreto 232/010, reglamentario de la Ley 18.381, en el cual se establece que la información puede estar disponible en los sitios web de los organismos si es de utilidad o relevante para el conocimiento y evaluación de las funciones y políticas públicas que son responsabilidad del sujeto obligado.
Además, el organismo cumple con lo dispuesto en el literal G del artículo 13 de la Ley 18.331, que establece la obligación de informar los criterios de valoración, los procesos aplicados y la solución tecnológica o el programa utilizado cuando se empleen datos personales en operaciones automatizadas de perfilamiento.
Esta publicación debe ser analizada previamente para garantizar la correcta integración con los derechos de autor y de propiedad intelectual e industrial y toda otra norma que componga el ordenamiento jurídico.
Poner a disposición la información de forma proactiva beneficia al organismo en dos sentidos:
- Las personas pueden acceder a la información sin necesidad de presentar una solicitud de acceso a la información pública, o en su caso el ejercicio del derecho de información previsto en la ley de protección de datos personales.
- Ante solicitudes de acceso a la información pública (transparencia pasiva), se puede dar respuesta con el enlace de acceso al sitio web donde la información se encuentra disponible, si es que contempla todos los elementos de la solicitud. De esta forma, las solicitudes de acceso se responderán en menor tiempo. Similar solución puede considerarse para el ejercicio del derecho de información previsto en la ley de protección de datos personales.
Divulgación en el organismo
Es recomendable que los equipos de trabajo de los organismos que hagan uso de sistemas de inteligencia artificial, o participen en la toma de decisiones de la o las respuestas que brindan estos sistemas, estén debidamente informados de su desarrollo, uso y finalidad, al mismo tiempo que tengan acceso a la documentación complementaria, según corresponda.