Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento

Comité estratégico del sector público para la Inteligencia Artificial y Datos

Comité estratégico del sector público para la Inteligencia Artificial y Datos

Agenda

La convocatoria se realizó a efectos de tratar el siguiente orden del día

1. Acta y repositorio del Comité Estratégico:
   • Acuerdo de criterios de aprobación y publicación
   • Revisar acceso al repositorio común
2. Informe al Parlamento:
   • Proceso de elaboración
   • Presentación sintética sobre el abordaje y propuestas recibidas 
3. Hacia la construcción de un primer borrador de la Estrategia IA
   • Intercambio y posición de los representantes sobre los objetivos
   • Intercambio sobre diferentes líneas de acciones a integrar 
4. Anuncios por parte de los participantes y próximos pasos

Desarrollo de la reunión

La reunión fue moderada por Ninoschka Dante. 

En el comienzo, se dio revisión a los acuerdos de la primera reunión del Comité estratégico, verificando el cumplimiento de los mismos.

1. Actas y repositorio del Comité Estratégico. 
   Se alcanzaron los siguientes acuerdos:
   • Las actas se enviarán por correo electrónico a los representantes de cada organismo en el Comité estratégico, quienes dispondrán de un plazo de 10 días para su revisión y observaciones. Transcurrido dicho plazo se integrarán los comentarios recibidos y el acta quedará aprobada.
   • Se generará un espacio en el sitio web de Agesic, donde se publicarán las versiones públicas de las actas aprobadas.
   • Respecto al repositorio de documentación para el trabajo del Comité Estratégico, se dispone de un espacio en el repositorio digital de archivos de Agesic. 
      
2. Informe al Parlamento

Gonzalo Sosa presenta un resumen de las actividades que se llevan adelante para cumplir con lo dispuesto por el artículo 74 de la Ley 20.212, respecto a elaborar un informe al Parlamento con recomendaciones sobre regulación legal de las estrategias de inteligencia artificial y datos. Vencimiento del plazo: 28 de junio de 2024.

Se consideraron los diferentes ejes temáticos surgidos en las mesas de diálogo y revisión de referencias internacionales y con un primer borrador de antecedentes elaborado por la Unidad Reguladora y de Control de Datos Personales (URCDP) se  convocó a otros organismos del sector público que aportaran más insumos a la visión de Agesic, para la elaboración del informe.

Además, posteriormente se abrió la consulta a otros actores de la sociedad civil, la academia y el sector privado a través de la plataforma de participación. 

Mencionó que todos los aportes recibidos no necesariamente se reflejarán en el informe pero se integrarán en la versión al Parlamento.

Agregó que la orientación del informe sigue lo dispuesto en el artículo citado anteriormente: desarrollo ético de la IA, protección de los derechos humanos, fomento de la innovación tecnológica.

En relación a los antecedentes internacionales, Gonzalo Sosa menciona que la orientación es potencialmente regulatoria de la inteligencia artificial. Algunos puntos mencionados:

• Mayor descentralización en Estados Unidos. Orden Ejecutiva con el rol de las entidades
• En Europa está más presente el enfoque de riesgos, y ‘líneas rojas’ marcadas al respecto
• Se evidencia mucha regulación en materia de principios, con un abanico de posibilidades considerando idiosincrasias locales

Para finalizar este punto, indica que habrá cuestiones cuya temática se dejará planteada en el informe para su análisis. 

Luego, ante la consulta sobre sandboxes regulatorios, previstos en el art. 75 de la Ley 20.212, Gonzalo Sosa indica que el proyecto está avanzando para su firma, en revisión por la Unidad de Jurídica de Presidencia.

3. Hacia la construcción de un primer borrador de la Estrategia IA

Ninoschka Dante hace referencia al documento de sistematización de aportes surgidos en las mesas de diálogo del proceso de revisión de la Estrategia de Inteligencia Artificial que fue compartido en el repositorio del Comité Estratégico. 

En este proceso surgieron unas 500 propuestas que se consideraron en la sistematización.

Propone trabajar en la visión del Comité sobre objetivos y líneas de acción a integrar en la Estrategia de Inteligencia Artificial, considerando las condiciones en Uruguay y también en clave de proyección. Hizo una mención sobre la estructura del documento y a los ejes temáticos considerados en el mismo. 

Propone hacer una ronda de participación sobre estos ejes, enfatizando en que la visión general debe ser de la Estrategia.

Pascual Gattas refiere a tres puntos: 

• Indica que, claramente, el tema de desarrollo de capacidades a nivel educativo, en universidades, en desarrollo del pensamiento crítico, en el público en general de esta herramienta debe ser un eje principal donde hay  mucho para hacer.
• Gestión de los datos como base para aplicar herramientas de análisis y obtener resultados en base a datos estandarizados por áreas, como por ejemplo en Salud, y que permita desarrollar investigación en cada una de ellas. Menciona que hay mucha información a procesar y trabajar para la toma de decisiones en el gobierno y además ver en el sector privado qué cosas compartir y qué cosas no. Compartir para lograr resultados positivos, dado que cada empresa es reservada con lo suyo. 
• Infraestructura: indica que es importante desarrollar infraestructura a nivel país tanto para el gobierno como para la investigación con laboratorios para impulsar Startups.

María Victoria Susena coincide con lo señalado anteriormente y agrega que en el tema de compartir datos, debería comenzarse la interoperabilidad por organismos públicos, dado que en el sector privado es más difícil de lograr. Desafío: pensar la gobernanza de este proceso.

Virginia Pardo también menciona la importancia el tema infraestructura fijando claramente el objetivo a alcanzar: ¿mejorarla, rentarla, construirla, qué cosa alcanzar? y cómo soporta luego las acciones a implementar. Igualmente en temas de capacitación, tener claro el para qué: educación, reconversión laboral, etc.

Alberto Majó menciona que el tema de desarrollo de capacidades debe estar vinculado al tema de la cultura cívica. Refiere a que es el uso responsable y el pensamiento crítico de los ciudadanos y no solo la capacitación técnica a impartir. Aprovechar la cultura cívica de Uruguay para capacitar en estos temas. Ejemplificó el caso del Super Computer Center en Barcelona que convirtió a España en líder.

Flavio Caiafa retoma el planteo de los tres puntos mencionados por Pascual Gattas, afirmando que los ejes mencionados son los que surgen en reuniones con empresas y con las personas que trabajan en IA. Destaca en el punto de capacitación de que debe extenderse desde la escuela hasta la universidad. También señala que hay un tema de civismo y que debe explicarse que tenemos “drogas digitales” a la mano, lo que es crítico y no tiene límites.

Con referencia a los datos, menciona que se le solicita datos a la población constantemente. Agrega que se visualiza alguna luz en el camino, ejemplificando con el caso de Salud.Uy, donde hay una situación mucho mejor a la esperada, en la que con poco esfuerzo (en términos relativos) se podría poner a disposición de investigadores la información anonimizada de las historias clínicas de las personas. Propone hacer un piloto para evaluar.

Respecto a la Estrategia, indica que el objetivo desafiante es mantener la protección de datos alineado con el marco europeo, pero que a la vez no limite el desarrollo de la tecnología. Balance: manejo y protección de datos.

Respecto a la infraestructura menciona que la nube será el proveedor, más allá que no somos dueños de la nube, la usamos. En algún momento tener una infraestructura será necesario económicamente. Concepto de infraestructura nacional soberana Agrega que puede ser interesante, antes de que eso pase, tener una infraestructura de I+D+i con servidores modernos.

Alberto Majó destaca que la estrategia de infraestructura nacional debería tener un componente para investigación, con incorporación de presupuesto. Ser un país que tenga capacidad para el uso del conocimiento disponible y adaptación del conocimiento. I+D+i sería estrategia de uso de la estrategia de IA. 

Ninoschka Dante indica respecto a I+D+i, realizar el trabajo para generar mecanismos en este sentido. En términos más generales, pensar en cómo transformar los problemas en objetivos país, luego en objetivos específicos y cómo en la Estrategia se capitaliza estos temas. 

Flavio Caiafa propone que I+D+i sea una línea específica en la estrategia con una infraestructura inicial. Menciona que hay oportunidad en los países que tengan matrices eléctricas renovables, dado que los centros de cómputos de procesamiento de IA consumen mucha energía y hay interés de asegurar infraestructuras sustentables. El consumo eléctrico industrial es el mayor porcentaje de consumo a nivel nacional. Si el 90% de la energía eléctrica fuera renovable sería muy bueno. Habría que ver si el beneficio compensa las otras líneas que hay en Uruguay.

Virginia Pardo indica que tenemos que ser garantistas de todos los derechos y principios a cuidar. Promover el “aquí se hace bien”, manteniendo confianza, seguridad, capacidades, ciudadanos educados, técnicos expertos, etc. Mantener esta política es un gran diferencial en la región. Surgió en las mesas de diálogo como valor país, y también surgió pensar adónde dirigir el presupuesto para seguir trabajando: lugar para investigar, infraestructura para pilotos, por ejemplo.

Ninoschka Dante agregó que de las mesas de diálogo con sector privado, industrias creativas y emprendedores, surgió que una de las cosas a considerar en la estrategia es cómo se diferencia un emprendedor uruguayo, qué estándares cumple, etc. con la idea de un “sello diferencial”.  Hay diferentes sectores que pueden capitalizar las líneas de acción de la Estrategia. También hizo mención a qué tienen en común las diferentes estrategias en aplicación de metodología:

• marco institucional 
• componentes habilitadores
• regulación – cuáles son los marcos técnicos éticos normativos
• innovación, inversión en IA 
• cooperación internacional 
• qué sectores están priorizados
• gestión del talento, impacto en el empleo

Marcos Israel indicó que desde hace algunos años, ha habido una inflación del Poder Ejecutivo (PE) y un órgano de contralor no debería estar allí. Las soluciones se han dado en Servicios Descentralizados (SSDD) o en forma autónoma en el Poder Legislativo (PL). Agrega que Agesic debería salirse de la presidencia y tener un estatus del tipo de la Unidad Reguladora de Servicios de Comunicaciones (URSEC), que es independiente, un órgano de contralor que no esté influido por ninguno de los poderes, y le parece importante desde el punto de vista de la seguridad y los controles de la IA.

Luego respecto a la inquietud que merece el fideicomiso de datos mencionado en el documento de síntesis, menciona que es un tema a poner la lupa, justo el lugar donde se comercializan los datos. Existe legislación sobre fideicomisos, pero habría que hacer algo más particular para este caso.

Otra preocupación es el tema de los datos en sí mismo. Ejemplifica que la Institución de Derechos Humanos y Defensoría del Pueblo (INDHDP) solicita datos y le cuesta muchísimo obtenerlos, por diferentes razones. Si no se accede a los datos, no se puede trabajar. Se habla de IA, pero si no se puede generar conocimiento básico, debe plantearse qué hacer con IA. Parte de la estrategia debería ser cambiar el chip del manejo de los datos. 

Respecto al fideicomiso de datos, menciona que hay empresas que venden o alquilan sus bases de datos para las empresas que generan IA. Hay que ver cómo se maneja este tema. 

Gonzalo Sosa indica que no se ha evaluado el fideicomiso de datos como herramienta. Hay una ley que tiene un conjunto de soluciones. No siempre se ha aplicado y no todos entienden lo mismo sobre cómo aplicarla. Hay cosas que están y no conocemos. No se impide que se comuniquen los datos si se tienen fines conocidos y la ley no lo prohíbe. La ley tiene mecanismos específicos para reglamentarlo.

Flavio Caiafa agrega que una cosa son datos que captura el Estado que los comparte entre sí. Cada vez que el ciudadano habla con el Estado, se le piden datos. Otro punto es cómo proteger los datos personales cuando se ingresa un sitio y se acepta que se compartan los datos.

Ninoschka Dante menciona que hay otro eje que surgió en las mesas de diálogo y es el referido a educación y empleo, así como la necesidad de instrumentos habilitadores en Pymes, emprendedores, etc. Debería cotejarse su viabilidad como para incluirlo en la Estrategia a modo de objetivo, línea de acción.

Marcelo Belén complementa indicando que desde la Dirección Nacional de Empleo (DINAE) no hay acciones en este sentido, dado que el foco es solucionar problemas de acceso al empleo de determinados sectores en particular. Agrega que a nivel del Instituto Nacional de Empleo y Formación Profesional (INEFOP), que es el organismo que lidera las capacitaciones, hay alguna iniciativa. 

Virginia Pardo menciona que se debe conocer el impacto que la IA tiene en la región, conocer si hay diagnóstico, por ejemplo, de qué empleos se espera que vayan a desaparecer o a cambiar. Tal vez deba comenzarse por tener un diagnóstico de en qué situación estamos. Proponer abordar este tema con un ampliado del Ministerio de Trabajo y Seguridad Social (MTSS).

Flavio Caiafa entiende que la IA es la continuación de la transformación digital, por lo que el foco de la educación debe ser desde la escuela y hasta los adultos. Además de ordenar los datos.

Maximiliano Maneiro indica que estamos en una era en la que sin datos, también hay IA y que pueden generarse negocios ‘de la nada’ solo creando IA generativa y desplazando a otras.

Próximas actividades

• Finalizar el informe de la mesa de diálogo con el sector Industrias Creativas para agregar al análisis
• Agesic convocar a reuniones en subgrupos de trabajo, para cerrar aspectos en diferentes líneas de la Estrategia de IA:
  • Eje capacitación y empleo con MTSS
  • Eje educación con Academia
  • Eje Infraestructura
• Compartir la síntesis de los aportes surgidos de las mesas de Estrategia de Datos para su análisis en el ámbito del Comité Estratégico

Próxima reunión: Convocar a reunión del Comité Estratégico una vez realizadas las reuniones de subgrupos de trabajo.
Hora de finalización: 15:50 h.

Descargas

• Acta n° 2 - Comité Estratégico P-IA+Datos (.pdf 464 KB)