Subgrupo 1, eje temático: institucionalidad y gobernanza. Marco de referencia y regulatorio. Evaluación y monitoreo
- Moderadora: Carolina Aguerre
Relatora: Cyntia Pais - Agesic
Participaron 12 (doce) personas de 10 (diez) Instituciones públicas, Organizaciones de la Sociedad Civil, Academia y/o Sector Privado.
Detalles de acciones propuestas
Udelar – Gustavo Buquet (Academia)
Indica que la regulación implica la existencia de una gobernanza que coordine y oriente las acciones de los diferentes actores involucrados. Por lo tanto, se requiere definir una estructura de gobernanza que tenga como funciones la conformación de grupos de trabajo. Asimismo, la agenda y la gobernanza deben garantizar la participación y la representatividad de todas las partes interesadas, incluyendo a la sociedad civil.
El segundo tema que se plantea es el de la regulación de la IA no solo a nivel estatal. Se señala que la ley de protección de datos personales vigente en Uruguay no contempla los abusos que se cometen en la extracción de datos, y que afectan el derecho a la protección de datos personales. En este sentido, se propone que todas las empresas, incluidas las extranjeras y las grandes plataformas, deban tener un representante legal en Uruguay, para que los contratos que se firmen con ellas se sometan a la jurisdicción uruguaya en caso de litigio. Asimismo, se sugiere adecuar las leyes que regulan la interoperabilidad y la portabilidad de los datos, ya que la legislación europea al respecto no es clara ni efectiva. En resumen, se aboga por una legislación que garantice la soberanía jurídica de Uruguay sobre los datos.
No existe una contradicción entre la promoción y la regulación del sector de la IA. Se debe seguir impulsando el desarrollo de este sector en aspectos como los algoritmos, la ética, etc., lo que podría generar un distintivo de calidad para la producción uruguaya. Sin embargo, considera que se debe prestar atención al debate sobre la regulación de internet, las plataformas, los datos y la IA. Se debe estudiar la regulación existente en el mundo, tanto en el ámbito público como en el privado, y luego crear una estructura de gobernanza no vinculante donde participen todas las partes interesadas: academia, sector técnico y sector privado.
IUGO - Javier Barreiro (Sector privado)
Comenta que no se logró en la estrategia anterior darle materialidad a este mismo pilar de gobernanza.
Agesic es responsable de desarrollar la estrategia, pero es una estrategia nacional que necesita de terceros para que esto suceda. El desafío es asignarle un nombre propio y recursos, que sea sostenible en el tiempo, quizás pensar en un proyecto de ley que indique quienes deben ser los responsables. Hay que evaluarse y monitorearse.
Internet Society - Laura Margolis (Sociedad Civil)
Considera que es fundamental la capacitación en todos los niveles.
Agesic - Virginia Pardo (Institución pública)
Buscamos tener un documento con grandes líneas de trabajo, generar sinergia común y plasmarlo en un plan nacional. Una propuesta es establecer un marco común tomando otros marcos como referencia o base. Que cuente con monitoreo, seguimiento, control de trasparencia y auditoría. También considerar si la finalidad es solo controlar y monitorear o si es necesario fomentar el uso y promover la innovación, e incluso brindar un sello de calidad o confianza. Se debería definir a nivel multidisciplinario e interinstitucional, sin descuidar la evaluación de impacto en el empleo, sociedad y medio ambiente.
Analizar los aspectos que deben obligatoriamente contemplarse en la gobernanza, dado que hay diferentes niveles de madurez, como por ejemplo, ejecutivos, investigación, etc.
Se debería de contar con instituciones públicas que sean rectoras y formen parte de una mesa ejecutiva, que cuente con el apoyo de un grupo asesor. Destaca como parte importante de la gobernanza la colaboración internacional.
Agesic - Magdalena Seijo (Institución pública)
Propone definir un triángulo sectorial, aunque en primera instancia es importante relevar cuáles son aquellos que tiene la Unión Europea. Hay sectores en que el riesgo es menor, en otros es muy alto y para cada uno hay que definir procesos adecuados. A los efectos creativos, a nivel de proceso debe garantizarse una participación interinstitucional e interdisciplinaria.
Otra clave es trabajar el impacto ambiental. El desarrollo tecnológico consume cada vez más recursos naturales.
Trabajando con tecnologías tan disruptivas y con alto impacto, es importante generar un espacio para debatir las situaciones imprevistas que surjan.
MDN - Gabriela Taibo (Institución pública)
Considera que la concientización y nivelación de madurez tecnológica en los diferentes ministerios es importante para llevar adelante este tipo de procesos.
AEU - Agustina Pérez Comenale (Asociación independiente)
En la institucionalidad, con referencia a rendición de cuentas e IA, considera que se debe de gestionar subgrupos especializados y uso de tecnologías en general. Esto impacta de manera transversal en distintos sectores, grupos y genera sinergia. Tomar como referencia las lecciones aprendidas en la aplicación de la reglamentación de la Unión Europea.
Abordando la parte pública, es importante como primer paso, unificar los criterios y parámetros para la implementación de la IA en los diferentes organismos públicos, a fin de garantizar una coherencia y una eficiencia en la gestión. Esto implica proveer de forma centralizada los recursos tecnológicos necesarios o herramientas, para evitar que las limitaciones presupuestales que puedan afectar a algunos organismos.
Establecer grupos de trabajo multidisciplinarios con representantes del sector privado, que actúen como un consejo asesor para los responsables de la regulación de la inteligencia artificial a nivel institucional. Crear un grupo de seguimiento, auditoría y control de la aplicación de la IA en el sector público, que verifique el cumplimiento de los criterios y parámetros establecidos y sancione las posibles infracciones. Este mecanismo podría estar vinculado a la Unidad Reguladora y de Control de Datos Personales (URCDP) o a otro organismo similar.
Fomentar el trabajo multidisciplinario y la comunicación interna entre los profesionales que desarrollan y utilizan los algoritmos de IA en el sector público.
Proteger la propiedad intelectual tanto del sector público como del privado, brindando seguridad jurídica a las empresas e instituciones que generan o utilizan datos e información mediante la IA.
Uruguay tiene la oportunidad de convertirse en un hub tecnológico regional, aprovechando las ventajas competitivas que tiene el país. Para ello, propone impulsar una estrategia que fomente la instalación de empresas extranjeras que desarrollen y apliquen la inteligencia artificial de forma responsable y sustentable.
Ofrecer incentivos a las empresas que realicen acciones de sustentabilidad ambiental y social, como por ejemplo, beneficios fiscales, facilidades regulatorias o apoyo al lanzamiento de la empresa. Se considera que esta estrategia tiene un impacto más positivo que la coerción o la prohibición de operar en el territorio nacional si no se cumplen determinadas características.
Proteger la marca país, evitando que se dañe la reputación o la imagen del país por el uso indebido o irresponsable de la IA. Buscar incentivos diferenciadores que no se utilicen en otros países, para atraer a las empresas para que no solo quieran instalar servidores, sino también laboratorios sustentables que generen empleo e investigación.
Coincide en unificar los criterios y parámetros para la implementación de la IA en los diferentes organismos públicos, a fin de garantizar una coherencia y una eficiencia en la gestión.
Adicionalmente propone que la regulación tiene que ser dinámica, tiene que haber consultorías en el sector público, privado y académico para evaluar los beneficios y los riesgos de la aplicación de la IA.
Udelar - Manuel Podetti (Academia)
La estrategia nacional de inteligencia artificial se elaboró hace cuatro años, pero aún quedan pendientes algunas discusiones fundamentales, como por ejemplo, si los datos son neutros o no. Se debe definir quién va a tomar las decisiones sobre la aplicación de la IA y cuáles son las líneas prioritarias para Uruguay en materia de investigación y desarrollo. También se debe determinar quién va a realizar la gobernanza de la IA, si va a ser solo Agesic o si se va a involucrar a otros actores.
En este sentido, es importante que la gobernanza de la IA no dependa del gobierno de turno, sino que tenga una independencia y una continuidad. Asimismo, se propone que el ente regulador pueda colaborar con un observatorio independiente que monitoree y evalúe el impacto de la IA en el país. Finalmente, se propone fomentar la integración entre los diferentes organismos públicos que tengan necesidades comunes en relación a la IA, como por ejemplo, cuatro o cinco ministerios que puedan trabajar juntos en proyectos conjuntos.
Youth IGF Uruguay – Nicolás Fiumarelli (Sociedad civil)
La inteligencia artificial implica riesgos y oportunidades que deben ser contemplados y evaluados de forma sistemática y rigurosa. Algunos de estos temas se están abordando a nivel global en el Policy Network.
Disponer de un observatorio que analice las políticas públicas a nivel nacional y que también apoye la interoperabilidad y gobernanza.
Con respecto al tema de género y raza, es importante considerar los sesgos. Tomar el trabajo de UNESCO como base de trabajo sobre este tema. Podría haber un organismo de supervisión o rendición de cuentas, como por ejemplo la ANII, e incluso con algún papel en la supervisión del sesgo y agregando un sello de calidad.
Respecto a la investigación, propone invitar a comisiones de género y colectivos de mujeres para tener una visión orientada a la reducción de sesgo. Asimismo, se sugiere invitar a los parlamentarios y brindar entrenamiento para los responsables de políticas públicas, con el fin de lograr una alineación. Finalmente, se deberá velar por un uso responsable y ético de la estrategia.
INAU - Aldo Velazquez (Institución pública)
Plantea la necesidad de definir, con respecto a la estrategia, los límites de acción y la institucionalidad. Propone la creación de un grupo de gobernanza aprovechando recursos como el observatorio y apoyándose de otros organismos. Además de generar una estrategia, afirma que se necesita la formación de un grupo dinámico dedicado a la constante evolución y funcionamiento.
Telefónica - Movistar - Agustina Zunino (Sector privado)
Entiende que el desarrollo de los sistemas de Inteligencia Artificial debe estar centrado en el ser humano y bajo su control, priorizando los intereses de las personas y estableciendo responsabilidades claras para su correcto funcionamiento. Durante todo el ciclo de desarrollo y hasta el uso del ciudadano, se debe de tener en cuenta la transparencia y la divulgación responsable.
Considera posible la autorregulación cuando sea factible, para facilitar una evolución dinámica de los mercados y la adaptación a las necesidades de los mismos. Una posibilidad es utilizar la Clasificación del Riesgo basada en impacto en derechos, salud y seguridad, similar a la normativa de la Unión Europea (Inaceptable, Alto, Bajo).
Los sistemas de IA requieren robustez, seguridad y protección en todo el ciclo de vida de los sistemas de IA para minimizar riesgos. Es importante incluir dentro del presupuesto nacional partidas presupuestarias para el financiamiento de proyectos de investigación y capacitación en IA, tanto en el ámbito académico como en la industria.
Priorización de las acciones y principales conclusiones
Eje Gobernanza e Institucionalidad
Institucionalidad
- Crear un organismo multi stakeholder de asesoramiento no vinculante
- Generar una secretaría de Agesic encargada de implementar y organizar grupos de trabajo vinculados a la estrategia.
- Conformar institucionalidad multisectorial (que valide y siga la estrategia)
- Crear y convocar comisión interinstitucional para impulsar la estrategia nacional
- Conformar grupo asesor honorario de IA a nivel nacional.
- Crear un organismo de supervisión, que regule el uso y tratamiento de datos en el país, garantizando principios éticos y evitando el sesgo.
- Tener una estructura de funcionamiento institucionalizada: interinstitucional, interdisciplinaria.
- Generar interoperabilidad global y mantener gobernanza.
- Elaborar un plan de agenda objetivo: con plazos, presupuesto y responsables.
Marco regulatorio / Referencia / Procesos
- Elaborar un marco de IA nacional
- Adoptar y/o adaptar marcos internacionales. Estudiar regulaciones
- Promover un sello de calidad Marca País para la promoción de IA nacional. Generar un certificado de confianza
- Definir actores y sus responsabilidades. Incentivar el diálogo con grupos asesores del rubro privado y académico.
- Perseguir la sostenibilidad democrática: control social, transparencia, rendición de cuentas, procesos simples, responsabilidades claras.
- Disponer de una clasificación de riesgo. Tomar como base la normativa de la Unión Europea con criterios: inaceptable, alto, bajo.
- Unificar parámetros de ciberseguridad y uso administrativo público
- Crear instituciones que realicen seguimiento, auditoría, investigación, etc. Además disponer de sandbox para pruebas
- Controlar y ejecutar acciones por incentivos o ejecución de sanciones.
- Regular el ciclo de desarrollo para garantizar: impacto social y medioambiental.
- Priorizar la autorregulación (cuando sea posible) para mitigar impactos negativos y fomentar la innovación.
- Promover delegados de IA en las organizaciones que se dediquen a desarrollar modelos de IA.
- Considerar la propiedad intelectual
Integración multisectorial
Incluir la elaboración de un documento de trabajo que resuma las discusiones, documentos y normativa a nivel regional y global.
Incluir las conclusiones de la mesa de trabajo de DDHH a los efectos de legislar sobre ética, sesgo y defensa de DDHH en los algoritmos.
Establecer un proceso de debate y análisis interdisciplinario continuo.
Seguir recomendaciones que pongan el foco en: transparencia, protección de derechos y divulgación responsable.
Establecer línea de cooperación e integración internacional. Vinculación regional y global. Gobernanza regional y mundial. Buscar alianzas con otros países.
Involucrar sector público y privado
Inclusión y equidad. Aumentar la participación de la sociedad civil y multi-stakeholder.
Monitoreo e investigación
Crear un Observatorio de interoperabilidad y políticas, con cooperación internacional y participación a nivel regional con reuniones periódicas. Generar un observatorio independiente y sostenible con incidencia política.
Generar un espacio regulador propositivo que fomente la inversión y la innovación
Promover investigaciones. Incluir y fomentar la investigación y el debate en la academia y el sector político. Fomentar la innovación: ANII, universidades, entrenamientos, policy makers.
Definir auditorías y monitoreos. Dar prioridad al seguimiento y monitoreo (con capacidad de enforcement)
Definir proceso de monitoreo en base al marco aprobado. Definir niveles de impacto y procesos para cada sector (alto impacto, mediano, bajo)
Elaborar informes de impacto de IA y nuevas tecnologías: ambientales, empleo, inclusión, etc.