Subgrupo 2, eje temático: Derechos Humanos, Ética, Transparencia y Rendición de cuentas
- Moderadora : Tania Da Rosa - Agesic
Relatora : Agustina de Benedetto - Agesic
Participaron 15 (quince) personas de 9 (nueve) Instituciones públicas, Organizaciones de la Sociedad Civil, Academia y/o Sector Privado.
Detalles de acciones propuestas
Agesic – Karime Ruibal (Institución pública)
Plantea la necesidad de acciones orientadas a generar confianza en la inteligencia artificial y en el manejo de los datos que se realiza desde el Estado.
En este sentido, propone implementar auditorías a través de un órgano competente con el fin de que estas puedan brindar confianza.
Plantea reforzar la institucionalidad para implementar las distintas estrategias que se propongan.
Youth IGF Uruguay - Rodrigo Alexandre (Sociedad civil)
Plantea la necesidad de diferenciar entre el sector público y el sector privado respecto a la transparencia de los algoritmos, ya que los privados tienen el derecho industrial. Se debe tener en cuenta las implicancias de transparentar algoritmos en el sector privado ya que podría afectar la competencia.
Sostiene que en el sector público debería existir mayor transparencia, ya que hay posibilidad de utilizar la inteligencia artificial en muchos ámbitos. Indica como ejemplo el uso de la inteligencia artificial en la justicia, trámites, etc.
Las acciones relacionadas a transparencia algorítmica deberían tener en cuenta que la transparencia algorítmica se encuentra relacionada con la transparencia de datos.
Otro aspecto a tener en cuenta es el uso de los datos personales. Comparte la importancia de contar con auditorías.
Agesic – Mauro Ríos (Institución pública)
Respecto de la transparencia algorítmica y de datos se debería incorporar el punto de vista de la ciudadanía. El desafío es evitar un tipo de oscurantismo que implica la publicación de todos los datos haciendo complejo o imposible un entendimiento o interpretación de los mismos por el ciudadano común o incluso algunas instituciones u organizaciones. El transparentar va de la mano de la capacidad de analizar e interpretar los datos que se transparentan.
Comparte las acciones propuestas en relación a las auditorias que podrían ser una alternativa para la transparencia algorítmica y de datos. La implementación de esta iniciativa debería realizarse a través de un organismo en el cual se encuentren representados todos los sectores (privado, público, sociedad civil, academia, entre otros).
No obstante, advierte que documentar la inteligencia artificial generativa a través de la publicación de sus algoritmos representa un desafío, ya que es generada por la misma inteligencia artificial (algoritmos generando algoritmos en tiempo real). Plantea auditar la información que ingresa o es fuente de entrenamiento de la inteligencia artificial, esto aliviaría la necesidad o complejidad de entender completamente un algoritmo. Además, señala que es un desafío la mutación del código de los algoritmos que se perfeccionan a sí mismos.
URCDP - Beatriz Rodríguez (Institución pública)
Destaca el desafío que representa la transparencia algorítmica en la inteligencia artificial.
En las acciones que se propongan se debería tener en cuenta la aplicación de la Ley de Protección de los Datos Personales y la ponderación de derechos.
UAIP – Mariel Lorenzo (Institución pública)
Propone tres acciones posibles: un Plan de Auditoria para instituciones, un Plan de Asesoramiento para el uso de la inteligencia artificial y una Guía con estándares mínimos a tener en consideración. Se deberían tener en cuenta temas éticos, derechos humanos, etc. En este plan, también se debería incluir al sector privado.
Se debe trabajar en paralelo con funcionarios y la ciudadanía.
Poder Legislativo – Cámara de Senadores - Caterina Di Salvatore (Institución pública)
Propone garantizar la participación ciudadana en las acciones que se implementen.
Destaca que si bien la inteligencia artificial mejora la calidad de vida, existen riesgos. La implementación de la inteligencia artificial en la toma de decisiones puede excluir ciertas perspectivas o generar sesgos. Se debe incorporar la diversidad de voces para que la participación no se encuentre limitada.
Asimismo, plantea que se debería garantizar la participación ciudadana efectiva en la adopción de la inteligencia artificial. Se debe fomentar la colaboración entre distintos actores y facilitar el intercambio de conocimiento, mejores prácticas y lecciones aprendidas.
Fundación Bensadoun Laurent - Nicolás Chaccal (Sociedad civil)
Propone actualizar la Ley de Protección de Datos Personales incorporando aspectos relacionados a la inteligencia artificial, teniendo en cuenta los consentimientos informados para el uso de los datos.
Remarca la importancia de generar acciones que informen a las personas cuando sus datos van a ser utilizados en la inteligencia artificial.
Respecto de los sesgos, destaca que la inteligencia artificial parte de los datos elaborados por una persona y por lo tanto puede tener sesgos o limitaciones. Plantea que un Plan de Auditoria podría incorporar principios y lineamientos básicos a tener en cuenta para resguardar los derechos humanos y minimizar sesgos.
Propone la creación de un Grupo de Trabajo o Comité que pueda establecer lineamientos para el desarrollo y uso de la inteligencia artificial con perspectiva de derechos humanos y minimización de sesgos.
Agesic– Valeria Colombo (Institución pública)
Las acciones que se realicen deben reforzar el rol de la ciudadanía en las auditorias. Propone contar con instrumentos de evaluación de impacto de la inteligencia artificial.
Además, propone incorporar la generación de un sistema de evaluación y gestión de riesgos.
Estas acciones de gestión de riesgo deberían ser previo al uso y debería incorporar el rol de la ciudadanía. Para este proceso, se debería capacitar a la ciudadanía para que pueda entender los impactos sociales de la inteligencia artificial.
BSE - Isabel Chiossi (Institución pública)
Plantea la necesidad de abordar el uso relativo a la salud con fines de investigación. Destaca que en el sector de salud existe un desafío respecto a los datos personales (muchas veces sensibles) y también respecto al uso de los datos. Identifica una oportunidad mejorando la regulación o las normativas existentes.
Indica que muchas veces las personas no tienen suficiente información sobre el uso que las organizaciones hacen con los datos relacionados a la salud. Plantea que se tendría que capacitar a las personas para que puedan entender los riesgos y los impactos.
INDHDP - Marcos Israel (Institución pública)
Respecto a la transparencia, indica que el Estado debe brindar claridad en los usos y aplicación de la inteligencia artificial. Ejemplo: contratación de personal con inteligencia artificial. Se debería regular para evitar la vulneración de derechos por parte de la inteligencia artificial. Regulación detectando las posibilidades de vulneración de los derechos, ahí se debería aplicar una revisión humana.
Plantea diferenciar el ámbito público del sector privado. Se debería trabajar por separado.
En el caso del ámbito público existen distintos niveles de complejidad de datos y muchas veces no hay acceso a datos en los organismos. Plantea como línea de acción la necesidad de nivelar la política de datos a nivel de los organismos.
Propone la posibilidad de elaborar protocolos por actividad (contemplando todos los sectores críticos, como la salud, el empleo, etc).
BSE - Krizia Osterkamp (Institución pública)
Destaca que se debería perfeccionar el uso del consentimiento informado de datos personales en salud y sus posibles usos respecto de la inteligencia artificial. Indica que en el caso del sector salud, sería importante que los aspectos regulatorios o las medidas sean tanto para el sector público como para el privado.
BSE - Romina Machado (Institución pública)
Indica que el foco de la inteligencia artificial debe estar en el bienestar de todas las personas y las acciones que se implementen deberían realizarse incorporando diversidad (participación inclusiva). Plantea la necesidad de asegurar la incorporación de diversas miradas, lo cual reduce los riesgos en los sesgos.
El Abrojo - Pedro Bandeira (Sociedad civil)
Plantea que una línea de acción es incorporar al sector privado en un plan de trabajo que incluya la perspectiva de derechos humanos con el fin de evitar la vulneración de derechos. Propone generar un acuerdo nacional para incorporar la noción de bienestar general en el uso de la inteligencia artificial.
Destaca la importancia de alcanzar tanto al sector público como el privado. Sostiene que el sector industrial presenta un desafío para la regulación y protocolos a adoptarse.
Propone generar un mapa actual sobre el uso la inteligencia artificial en Uruguay.
Agesic – Karime Ruibal (Institución pública)
Identifica como una oportunidad establecer planes estratégicos respecto al uso de la inteligencia artificial, haciendo foco y destacando los casos positivos. En este sentido, hay una oportunidad para gestionar los posibles riesgos.
También, destaca que la inteligencia artificial no debería tomar decisiones y es fundamental que exista una persona que pueda optar o no por las decisiones que genera la inteligencia artificial. El desafío se encuentra en el uso que hacen las personas con los resultados que se obtienen. En este punto, la calidad de los datos es fundamental, ya que si los datos son de mala calidad pueden generar malas decisiones.
Respecto a los consentimientos informados, indica que en los usos de las distintas tecnologías ya se aplica.
URCDP - Beatriz Rodríguez (Institución pública)
Destaca que la Ley de Protección de Datos Personales incorpora desde el año pasado los aspectos relacionados a la inteligencia artificial. Las personas tienen la oportunidad de informarse sobre los usos de sus datos y también dónde se utilizan (autodeterminación informativa)
Brinda como ejemplo el uso de la inteligencia artificial en recursos humanos. Si el resultado no es favorable existe la posibilidad de solicitar una revisión y explicación de cómo fue el proceso de toma de decisión.
Agesic – Mauro Ríos (Institución pública)
Plantea ser cuidadosos en cuanto a la regulación, dado que existen hoy múltiples normas que son aplicables a la Inteligencia Artificial. Afirma que, de ser el caso, lo que es regulable son los servicios, pero no la tecnología. Sostiene que hay sectores que pueden requerir nuevos marcos normativos, así como la creación de competencias para organismos preexistentes o generar una nueva institucionalidad.
Subraya que los marcos normativos existentes pueden aplicarse a la tecnología sin necesidad de que tenga que generarse una nueva regulación. Existe un riesgo en legislar nuevamente, ya que puede haber desconocimiento en la temática y esto podría generar un riesgo mayor. Respecto de las regulaciones, destaca que no se debería confundir ética con legalidad (no significan lo mismo).
También plantea que existe un desafío ya que todas las personas incurren en sesgos y muchas veces no se logra una participación real y diversa en estos procesos.
UAIP – Mariel Lorenzo (Institución pública)
Indica que más allá de los matices que se vienen planteando, desde su punto de vista hay un mínimo consenso en que se debe generar una mínima regulación que incorpore aspectos de institucionalidad. Con respecto a la suficiencia o insuficiencia del marco normativo actual para proteger a las personas, muchas veces los consentimientos informados no resuelven todos los problemas asociados a los usos de los datos de las personas.
INDHDP - Marcos Israel (Institución pública)
Destaca la posibilidad de elaborar un mapa de datos que incorpore a todos los organismos del Estado.
Respecto de los sesgos, se debería incorporar la inteligencia artificial en las leyes existentes para evitar los mismos.
Youth IGF Uruguay - Rodrigo Alexandre (Sociedad civil)
Plantea que hay que cuestionarse la necesidad de regular dado que en distintos aspectos ya hay legislación que resulta aplicable a la inteligencia artificial. En caso que se avance en regulaciones, es importante mantener el principio de neutralidad tecnológica.
Respecto a la transparencia, se podría generar un organismo o institución para que explique cómo se toman las decisiones utilizando inteligencia artificial. Generar mayor responsabilidad en aquellas personas que participan en los procesos de toma de decisiones.
Agesic – Valeria Colombo (Institución pública)
Destaca que la inteligencia artificial es un sistema que no es neutro, ya que trabaja con datos, algoritmos y resultados. En ese sentido, plantea que la estrategia debe incorporar una mirada diversa y la noción de que las decisiones de esta tecnología no son neutras. Asimismo, plantea la participación y la diversidad como principios y elementos fundamentales a la hora de prever acciones para la mitigación de sesgos en relación con distintos aspectos de la IA. Opina que las regulaciones a adoptarse presentan un desafío y plantea que deberían ser generales tanto para el sector público como para el privado.
Destaca como desafío la incorporación del principio de bienestar general en el uso de la inteligencia artificial. En este aspecto, la incorporación del sector privado es fundamental ya que es un sector que tiene por definición una finalidad distinta a la del Estado.
Agesic – Karime Ruibal (Institución pública)
Indica que los algoritmos se hacen en base a casos de uso, contar con información y mapeo sobre estos casos de uso puede ser relevante para establecer los protocolos o pautas. Se debe incorporar la diversidad para enriquecer los datos que la tecnología utiliza.
Agesic – Mauro Ríos (Institución pública)
Destaca la importancia de respetar la neutralidad tecnológica. Plantea que tanto los privados como el Estado no deben condicionarse a utilizar un solo tipo de tecnología para vincularse entre sí o con la ciudadanía. Ejemplo: uso solo de PDF para realizar un trámite, entre otros.
Comparte como línea de acción para el sector público abordar la calidad y la disponibilidad de los datos.
BSE - Romina Machado (Institución pública)
Enfatiza que hay que diferenciar la subjetividad de los sesgos, estos últimos, pueden ser prevenidos o mitigados. En tal sentido plantea que se debería promover el trabajo con equipos multidisciplinarios para los diseños de casos de uso y para determinar las regulaciones. Indica que los sesgos se minimizan cuando hay participación de personas diversas. Existe una oportunidad para construir algo mejor que disminuya los sesgos actuales.
Priorización de las acciones y principales conclusiones
A continuación, se presentan algunos aspectos generales:
En primer lugar, se destacó que la diversidad debe ser transversal a los procesos y acciones que se propongan.
En segundo lugar, se destaca la incorporación de especialistas académicos (filósofos) en transparencia, ética y derechos humanos para la construcción de una definición de ética en la estrategia de la inteligencia artificial.
Por último, la ponderación de derechos debe ser incorporada en las acciones que se propongan.
Acciones priorizadas y orden propuesto por el grupo:
Generar un mapa de uso de la inteligencia artificial. El mismo debería incluir, dónde se utiliza tanto sea en el sector público como en el privado, también se propone que se actualice periódicamente.
Generar un mapa de disponibilidad y uso de datos. Incorporar políticas de calidad de datos, disponibilidad y uso.
Realizar un relevamiento normativo general y sectorial para identificar posibles necesidades de adecuación normativa, creación de institucionalidad o asignación de nuevas competencias para los organismos que lo requieran.
Generar protocolos por actividad que integren perspectiva de ética y derechos humanos. Crear un Comité o grupo de trabajo en ese sentido.
Evaluación de impacto y de gestión. Se deberían generar evaluaciones de impacto y planes de gestión de riesgos. También, se propone la generación de un Comité multisectorial y/o sistemas de gestión de riesgos.
Plan de Auditoria. Generación de un plan que incorpore aspectos mínimos a auditar. Realizarlo bajo un marco de institucionalidad y diversidad. Creación de un organismo con competencias para realizar auditorías (de composición multisectorial).
Construir e incluir una definición de ética en la Estrategia de Inteligencia Artificial.
Generación de un observatorio/comité con representación multisectorial con un funcionamiento permanente (privados sociedad civil, academia).
Procurar que las instituciones públicas, principalmente, se transformen en instituciones data-driven, es decir que basen su gestión en la toma de decisiones en el análisis de datos en tiempo y forma, lo que implica desarrollar áreas de Inteligencia de Negocios (BI).