Subgrupo 6
Moderador: Armando Guido, CAF
Relator: Martín Rovira, AGESIC
Participaron 13 (trece) personas de 9 (nueve) organizaciones; Instituciones públicas, Organizaciones de la Sociedad Civil, Academia y Sector Privado.
Intercambio y aportes realizados durante las diferentes rondas de conversación
Udelar - FIC - Gustavo Buquet (Academia).
Comenta que desde la Facultad de Información y Comunicación están realizando una investigación de sobre la regulación de plataformas de internet; en Uruguay, en la región y en todo el mundo. Han analizado las distintas regulaciones que cuentan las empresas privadas a lo largo del mundo, pero profundizando específicamente sobre esta temática en Uruguay.
Estas investigaciones han constatado que en Uruguay está fuera totalmente de la agenda pública sobre “el debate de la regulación de las empresas privadas de internet”. No solo que falta regulación, sino que falta debate sobre regularlas o no en comparación con el resto del mundo. Aunque en este sentido se entiende que pude ser complicado para el país poder regular las grandes corporaciones como Google.
Plantea que se pueda instalar el debate a nivel de la sociedad sobre estas regulaciones como hacen otros países como EEUU, o avanzar en regulaciones como Brasil y la UE que ya no solo debatieron, sino que están regulando a los privados.
También indica que se debería crear la estrategia para toda la IA y no para algunas ramas puntuales, que sea abarcativa y cambiando el sentido y el sector que aplica la actual estrategia, ya que es solo para el uso responsable del Estado.
La nueva estrategia debe hacer fuerte a Uruguay en la producción de IA como ya lo es en el desarrollo de software y a nivel científico. El desafío debe ser mucho más grande que la actual, y la regulación debe afectar a todo el sector privado y público. Ya que hay leyes que en el sector privado no están haciendo caso.
El alcance de la nueva estrategia debe ser a nivel País y su objetivo debe ser preparar al Uruguay para estar a la altura de la IA en 3 dimensiones:
Formación técnica y no técnica.
Marco regulatorio que incluya derechos humanos, igualdad, transparencia y derivada
Para promover la investigación y desarrollo científica y tecnológica
Udelar - Lorena Etcheverry (Academia).
Es coordinadora de la Maestría de Ciencia de Datos de la Facultad de Ingeniería y ha trabajado en la hoja de ruta de la primera Estrategia Nacional de IA, ha venido trabajando mucho con la ética en la ciencia de datos, con actividades de divulgación y en temas de calidad de datos.
Desde su visión indica que hay que mejorar la Estrategia actual de IA aportando en calidad, gobernabilidad de datos y en comunicación, porque encuentra que falta más comunicación para gestionar juntos los datos entre todos organismos, los ve muy separados. Su mayor interés es poder profundizar sobre la Estrategia Nacional de Datos ya que es algo totalmente nuevo y muy necesario porque la IA se alimenta de datos.
Plantea lo siguientes puntos:
La nueva versión de la Estrategia debe abarcar a todas las distintas comunidades que integran la IA ya que por ejemplo la comunidad de datos es muy distinta a la comunidad de los que hacen modelos, esto a ellos les preocupa mucho.
Esta estrategia no debería ser sectorial, debe ser totalmente a nivel nacional porque el país es chico, si se hace sectorial el costo beneficio no es tan grande, y se puede estar afectando el principio de igualdad.
Se debería crear un marco regulatorio a nivel país para la IA hasta realizando una trazabilidad de los algoritmos utilizados. De la misma forma que en un supermercado un producto como el yogurt tiene toda una trazabilidad y certificación de calidad, La IA no lo tiene sobre sus algoritmos.
Esta estrategia debería explorar también la regulación de empresas privadas como lo hace la Unión Europea colocando casos de usos prohibidos de la IA y, por último, ayudar la definición de los límites de las aplicaciones que afectan a los derechos humanos.
Agesic - Fernando Cormenzana (Institución pública).
Menciona que actualmente ya hay 1500 funcionarios del Estado capacitados sobre la IA gracias a Agesic junto a las facultades de Ingeniería y de Derecho de la UdelaR ya que la IA comienza a afectar mucho los derechos de las personas sobre la tecnología.
Propone revisar y abordar el tema de la gobernanza, ya que se ve mucho impacto a nivel social de la IA en las sociedades, impactos a nivel de sesgos, transparencia y con temas de género. Indica que se debe abordar el cómo se va a controlar, que va a imponer el Estado en el uso de la IA en el sector público.
Y por último menciona que la estrategia no debe ser radical ni tampoco debe bajar a casos puntuales.
Agesic - Karime Ruibal (Institución pública).
La Directora de servicios a la ciudanía de Agesic comenta que desde su área siempre colocan el foco sobre el ciudadano, es por este motivo que consideran que la nueva versión de la estrategia de IA debe explorar mucho el tema de la gobernanza y la transparencia en general.
Propone profundizar en la transparencia y que la IA sea totalmente auditable, de la misma forma que pasa en los balances y la rendición de cuenta de cada organización que son auditables, los algoritmos utilizados en IA también deben ser auditables para mejorar la transparencia. Si las organizaciones utilizan sus datos siendo transparentes, logramos transparencia.
También hace hincapié en que la nueva política pública debe abarcar a que la calidad de los datos para que sea buena, porque no solo falta que los algoritmos sean auditables, sino contar con buena calidad en los grandes volúmenes de datos.
Y, por último, propone que exista un órgano de gobernanza con cometidos de control, y definir bien sus competencias para poder regular ya que el órgano debe tener herramientas para poder controlar.
Agesic - Fabiana Santellán (Institución pública).
Considera que siempre una regulación es muy complicada porque vas corriendo de atrás a lo que el mundo avanza sobre la temática a regular, es por este motivo que entiende que la política debe ser de lineamientos de adopción, para que se sepa cómo actuar, partiendo de recomendaciones y pautas de cómo usarla.
En primera instancia propone que la nueva estrategia tenga mucho hincapié en la seguridad, enfocada en dos aspectos; cómo hacer para que la IA sea segura y como la IA brinda seguridad a la ciudadanía.
También indica que se tiene que hacer algún apoyo regulatorio a la estrategia, como un Decreto o Ley que pueda ser una herramienta que ayude a regular y ayude a la implantación.
Otro aspecto que menciona es que la estrategia debe ser a nivel nacional, aunque pueda implantarse de forma incremental y sectorial. Pero tiene que ser concebida para todo el país, y no a un sector como es la versión actual, solo sobre el Estado.
Y, por último, propone crear algún tipo de Sello Propio, Uruguay ya es líder en ciudadanía digital, alfabetización digital y también seguridad informática. Podría tener Uruguay un Sello Propio sobre Transparencia y Uso Responsable de IA y destacarse y competir a nivel mundial.
Ancap - Pablo Barrios (Institución pública).
Integra la gerencia digital del organismo, y menciona que hay un aspecto de la responsabilidad que se debe abordar.
Por eso propone que la nueva estrategia debe fortalecer la responsabilidad a todos los niveles y todos los temas en el tema de la IA, desde la persona con el menor rol al más alto. Y también promover la información de la IA a todo nivel sumado al control del aprendizaje de la IA en las organizaciones del estado.
Y para finalizar hace una mención sobre que no es consistente la gran cantidad de llamados laborales del Estado sobre roles administrativos con la gran necesidad de roles sobre las nuevas tecnologías.
BSE - Romina Machado (Institución pública).
Como funcionaria del Estado y también militante política y social, trae como propuesta incorporar la diversidad en general en esta nueva estrategia. Menciona que no ve mucha diversidad en todos los presentes en esta jornada, y que se debió incluir a distintas personas de otros géneros, razas y hasta discapacidades para poder aportar a esta mesa ya que pueden tener distas visiones no exploradas.
Propone que la nueva estrategia debe ser a nivel nacional y que debe ser incluido el tema de la perspectiva de género e inclusión de una forma más clara, como un ítem del Marco Regulatorio o más específico dentro de la Estrategia.
BSE - Mauro Maiese (Institución pública).
Indica que cree no tener mucho conocimiento para aportar en la construcción de la nueva estrategia porque trabaja en un área que no le llega la IA.
Pero menciona como propuesta que la nueva estrategia debe abordar el tema de los Derechos Humanos y la pérdida de fuentes de trabajo, porque esto puede afectar muchísimo la perdida laboral.
BSE - Carolina Rodríguez (Institución pública).
Comenta que le preocupan los temas de los posibles sesgos de los datos, como se construyen esos grandes grupos de datos y que pautas y reglas de calidad se les aplican.
También plantea la preocupación de la educación a la ciudadanía en general de cómo utilizar todos estos datos y como utilizar las herramientas de IA, porque la IA no va ayudar a la sociedad si la sociedad no sabe cómo usarlas y no conoce sus riesgos.
Propone que se debe educar no solo en el uso sino educar en derechos y oportunidades en la IA. Otro aspecto importante es ver si la estrategia puede abordar el tema de cuánto dinero se gana con la IA, y que riesgos trae a la humanidad tanta IA.
Pero tiene la duda de cuál es la mejor forma de lograrlo, si con una estrategia o una ley, si sobre un sector o a nivel general.
FGN - Germán Martínez (Institución pública).
Desde el sector de TI de la Fiscalía indica que la nueva estrategia debe abordar más la capacitación, por ejemplo, en su organismo, se necesita capacitar a los fiscales y demás funcionarios sobre el uso de la IA, porque es súper necesaria para que ellos puedan tenerla como herramientas rápidas cuando tienen plazos cortos de resolución de casos.
INAU - Andrés Milano (Institución pública).
Menciona que falta capacitación en general y a nivel de funcionarios de los Organismos, por ejemplo, ellos manejan un sistema informático que nuclea información de todos los chicos del INAU pero tienen fuertes problemas por la gestión de estos datos que maneja el sistema. Se debe avanzar en la calidad del software. Ellos abren estos datos a la población, y se debe generar confianza en el sistema que los maneja.
UAIP - Graciela Romero (Institución pública).
Desde su rol de coordinadora de la UAIP indica que se debe incluir la transparencia como elemento esencial de la Ética de IA. Menciona también que no pueden descuidarse los Derechos Humanos ya que la innovación y el desarrollo siempre tienden llevarse por delante los derechos humanos de las personas.
Indica que se debe profundizar en la capacitación porque existe una gran diferencia en conocimiento entre el sector público y privado. Pide que este marco regulatorio o estrategia debe llegar a las distintas investigaciones y proyectos que se están realizando, como por ejemplo se están aplicando IA a la neurotecnología, analizando y modificando comportamientos humanos.
Por este motivo ella propone los siguientes aspectos:
Que todos los sistemas de IA puedan ser auditados y rendir cuentas llevándole el conocimiento al as personas para que puedan entender y conocer cómo funcionan los sistemas de IA.
Que el marco regulatorio se expanda para poder llegar a las distintas empresas proveedoras del estado que son privadas.
Profundizar la Transparencia Activa que es un elemento importante de la Estrategia pidiendo que las organizaciones publiquen en los sitios web la información relevante.
Y, por último, que debe existir un modelo de gobernanza como la gobernanza de internet, que regule la IA como se hace con la Internet.
Adagio Consultores - Pablo Ibarra Casals (Sector privado).
Consultor privado que trabaja en Gestión de Datos en general, en distintos proyectos nacionales e internacionales de IA y con organismos del Estado.
Considera que es adecuado enmarcar la estrategia y planes de IA en la estrategia nacional y plan para una gestión y gobernanza de datos oportuna.
Menciona que en general en el sector público no se mantiene el conocimiento senior específico sobre Ciencia del Dato (en particular en IA) y en parte esto es debido a la alta rotación del personal capacitado en un contexto de creciente demanda internacional, altamente remunerada.
Indica también que en Uruguay no existe un marco regulatorio completo que mitigue los riesgos asociados al uso de la tecnología IA.
Menciona otro aspecto importante a considerar que es la Inclusión del Ser Humano frente al uso de la IA para tareas que hoy son realizadas por personas y podrían tender a ser automatizadas por algoritmos de inteligencia cognitiva. Destaca la importancia de crear un marco regulatorio y una ética que cuide dicha inclusión y los derechos humanos.
Propone armar un Centro de Excelencia que apoye a las organizaciones públicas cuando lo necesiten, ágilmente, para acompañar en las definiciones, planes de capacitación, integración con especialistas nacionales e internacionales, aceleradores, casos de uso, etc. Crear un equipo multidisciplinario que trabaje en cada solicitud de asistencia, para guiar, diseñar e implementar IA, sin olvidar la ética, la arquitectura de datos y la gobernanza de datos.
Propone como otra iniciativa que Uruguay cree un Sello de Transparencia de IA, compuesto de metodología, auditoría del ciclo de vida de IA (cómo se toman las decisiones?) e implementando soluciones tecnológicas que automaticen lo más posible.
Mujeres TI - Maite De Noura (Sociedad civil).
Propone implementar la perspectiva de género, diversidad e inclusión en el ámbito tecnológico e implementarlo en la Estrategia de IA, intentando así disminuir los sesgos en el mundo de la tecnología.
Conceptos generales vertidos en el subgrupo:
Algunas de las distintas palabras más mencionadas fueron:
Gobernanza
Ética
Sesgos
Género
Igualdad
Inclusión
Educación
Educación en derechos
Derechos humanos
Perdida de fuente laboral
Ámbito de aplicación (público y/o privado)
Cadena de suministro
Seguridad
Control
Regulación publica privada
Regular toda la IA
Auditabilidad
Apoyo a organismos estatales
Transparencia Activa
Peso legal sobre el nuevo documento
Órgano de gobernanza con cometidos de control
País con sello propio en Transparencia y Uso Responsable de IA en Uruguay
Ente de regulación de la IA
Centro de Excelencia que apoye a las organizaciones públicas
Comentarios finales del subgrupo:
La nueva Estrategia debe ser: a nivel nacional para la preparación del Uruguay: Educación incrementando conocimiento, formación más gerencial para los tomadores de decisiones, y para toda la cadena. Mejorando la soberanía, la democracia y la transparencia. Debe contar con los siguientes pilares;
Marco regulatorio que incluya derechos humanos, igualdad, transparencia y derivada
Formación técnica y no técnica
Promoción de la innovación y desarrollo