Subgrupo 1
Moderadora: Arianne Palau, Agesic
Relator: Nelson Connio, Agesic
Participaron 17 (diecisiete) personas de 15 (quince) Instituciones públicas, Organizaciones de la Sociedad Civil, Academia y/o Sector Privado.
Intercambio realizado durante cada una de las rondas de conversación
Intercambio Parte I: Visión global
En esta sección se detallan los aportes de cada participante de la mesa en relación al tema planteado.
Todos los participantes tuvieron su espacio para compartir su visión, la cual se presenta a continuación manteniendo el orden en que sucedieron durante la actividad.
UAIP - Mariel Lorenzo (Institución pública)
Considera que, siendo la actual una estrategia de IA enfocada desde el Estado, faltan pilares de transparencia y seguridad por diseño. En relación a la estrategia actual propone ampliar algunos de sus objetivos. En lo que respecta al Objetivo 2, entiende que se debe promover la transparencia activa por diseño; en el Objetivo 3 propone incluir dentro de las capacidades el conocimiento necesario para saber cómo y dónde buscar la información relacionada a IA; y, finalmente, en el Objetivo 8 propone incluir búsqueda de información de IA en el Estado.
IdeM - María Eugenia Corti (Institución pública)
Indica que es necesario contar con una publicación más concisa que establezca obligaciones en los organismos con respecto a cómo se debe incorporar IA en cada uno de ellos. La temática tiene que ser transparente con la información pública y, en especial en el uso que se le da a la IA. Además, resalta que es relevante fortalecer la capacitación y formación en varios niveles, tanto interna en los organismos, como también de cara a la ciudadanía. Sobre la seguridad por diseño, sostiene que se trata de un tópico muy amplio y que, desde el punto de vista de la IA generativa, hay que enfocarse en cómo se manejan los datos utilizados para entrenar los algoritmos utilizados de empresas externas como nacionales. Finalmente, destaca que hay que interactuar de forma correcta con las empresas externas, tomando los recaudos necesarios sobre el uso de los datos.
Agesic - Valeria Colombo (Institución pública)
Plantea que la estructura del documento actual no es de fácil comprensión, debería de ir de lo general a lo particular: principios y pilares, dimensiones, las líneas de acción, objetivos, metas. Se dan por supuesto los beneficios, pero los riesgos se plantean sólo como potenciales. Es relevante entender que la IA es una herramienta, y por lo tanto hay que enfatizar también en los impactos negativos de su uso. Considera que los objetivos deben incorporar lineamientos para resguardar los derechos humanos, regular los impactos, y garantizar los procesos con el fin de minimizar los impactos negativos, así como también garantizar la sustentabilidad ambiental. Finalmente, señala que se menciona la mejora de los servicios y herramientas, pero no como parte de un objetivo. En esta línea, plantea que quizás sea mejor definirlo desde el punto de vista de mejorar la calidad de las personas, y no de los servicios. Agregar puntos de sustentabilidad ambiental.
Ceibal - Isabel Amigo (Institución pública).
Considera que se necesita ampliar y profundizar en el desarrollo de capacidades, y también llevarlo a la ciudadanía. Evitar brechas: hay personas que pueden usarlo y otras no. Sobre los planes específicos, hay que definir acciones concretas. Finalmente, en lo que respecta a ética y legislación plantea que se deben agregar acciones y lineamientos.
BSE - Verónica Salaberry (Institución pública)
Resalta que es necesario conocer la naturaleza pública de los entes públicos que interactúan. En su ámbito laboral, se dificulta la gestión por las estrictas regulaciones y esto provoca una desventaja competitiva con empresas internacionales. Determinar cómo cada organismo se vincula con los demás organismos y también con la sociedad. Extender a los distintos servicios públicos dentro del Estado: Administración Central, entes autónomos, servicios descentralizados, Intendencias y personas públicas no estatales.
BSE – Ana Erosa (Institución pública)
Considera que es necesario identificar y promover el desarrollo de políticas públicas que puedan acompañar a la estrategia de IA. Plantea sus inquietudes sobre los problemas en relación al uso de los datos en la nube y la gestión de los mismos. En relación a ChatGPT, destaca que solo se puede aplicar sobre datos públicos, no sobre grupos de datos específicos. Finalmente, indica que se requiere tener libertad de acción para utilizar datos de acuerdo a necesidades.
Data Uruguay - Ana Tuduri (Sociedad Civil)
Resalta que en necesario contar con capacitación para la ciudadanía en su totalidad, además de los funcionarios públicos. Los objetivos son amplios y deberían de ser cuantificables para monitorearlos y medir el avance. Todas las medidas deben de tener un actor responsable. Para finalizar, plantea que el financiamiento de las herramientas debe ser transparentado.
INDHDP - Marcos Israel Cúneo (Institución pública)
Plantea la interrogante de ¿cuál es la finalidad de usar IA en el Estado? Desde su punto de vista hay que aclarar quienes son los beneficiarios. En lo que respecta al manejo de datos, señala que el cruce de datos entre organismos no debería de ser libre, y que tiene que ocurrir únicamente cuando se defina como necesario e indispensable. Además, las decisiones que impliquen una posible violación o vulneración de los derechos humanos deben ser supervisadas por humanos. Evitar repetición de estereotipos en el aprendizaje y generación de sesgos.
Udelar - María Inés Fariello (Academia)
Considera que tienen que existir una educación en materia de IA en varios niveles, identificando personas que pueda dictar esta capacitación. Crear videos, tanto básicos como complejos, dirigidos a la población. Evitar pagar a Estados Unidos por cursos costosos y de corta duración o alcance. Entiende que es importante auditar los algoritmos, identificar quiénes y donde se utilizan. Ser cuidadosos al utilizar algoritmos que son externos y fueron entrenados con datos desconocidos. Finalmente recalca la importancia de contar con financiamiento, e identificar responsables de llevar adelante las propuestas.
Discere - Daniel Guerrero (Sector Privado)
Plantea que no cuenta con información de otros organismos, y solo tiene una visión parcial. La tecnología tiene oportunidades para el país. Por ende, se tiene que establecer un plan con urgencia, que sea habilitador de prácticas recomendadas. Considera que no estamos preparados para el uso de datos de manera libre. En relación a los modelos, opina que los mismos son buenos debido al conjunto de datos con el que fueron entrenados.
Agesic – Gabriel Hernández (Institución pública)
Considera que la gobernanza e institucionalidad se deben sumar a la estrategia. Existen múltiples stakeholders que generan potenciales beneficios y riesgos. Hay que pensar bien ese proceso. No se encuentran casos de uso relevantes, aparecen algunos en los cuales no tiene sentido aplicar IA. Buscar proyectos que no sean complejos, pero que puedan ahorrar tiempo. Se necesita aumentar la capacidad tecnológica, además de las capacitaciones.
INAU - Aldo Velázquez (Institución pública)
Identifica que se debe tratar de actuar rápidamente frente a cambios sociales, en particular políticas públicas. Se necesita un observatorio o comité de expertos que detecten cambios y rápidamente puedan actuar en consecuencia. Además, es necesario manejar las habilidades y experiencia de cada organismo con respecto a los datos y como se comparten.
INEFOP - Adrián Rosso (Institución pública)
Opina que el documento es bastante descriptivo y generalista. Desde su punto de vista, entiende que se deberían incluir metas más específicas con alcance para materializarlas. Definir sectores estratégicos, responsables, acciones concretas y que tecnologías se utilizan. Con eso, quedan más claros los riesgos e impactos.
INEFOP - María Bedrossian (Institución pública)
Plantea que se requiere mejorar la forma e integralidad de las dimensiones del documento, además del diseño. Además, identifica que el Estado tiene que ser el garante de los derechos. Se necesita monitorear las acciones. Finalmente, resalta que hay que explicitar la dimensión social, ya que se abarca brevemente.
BSE - Mónica Falero (Institución pública)
Plantea que su foco está en utilizar la herramienta, en procesos que se puedan automatizar. Recalca la importancia del uso de los datos y los cuidados que implican.
BSE - Daniel Thevenet (Institución pública)
Considera que es necesario garantizar que se puedan hacer ajustes rápidos a la estrategia en caso de ser necesarios, para evitar catástrofes.
LIDECO - Nicolás Antúnez (Sociedad Civil)
Señala que para el sector privado y público es relevante la intersección entre transparencia, protección datos y propiedad intelectual. Por lo general, se entra en conflicto con las empresas privadas. Dar garantías que la transparencia va a proteger al Estado y a las empresas privadas que no van a transparentar el “core” del negocio. El Estado tiene que asumir compromisos con respecto a esto.
BPS - Gonzalo Arzúa (Institución pública)
Considera que hay que tener un balance entre responsabilidad y oportunidad. La estrategia no debe de ser tan rígida, nos tiene que permitir hacer modificaciones para aprovechar oportunidades. La estrategia tiene que ser un habilitador para “hacer”. Entiende que la primera versión representa una fase de evangelización de IA, pero la segunda debe generar capacidades reales, por ejemplo, tecnológicas, aprendizaje, etc. Armar un ecosistema, una estructura que permita llevar adelante proyectos de IA y que se respondan consultas de manera rápida, por ejemplo, en una semana máximo.
ANII - Fabio Bonanno (Institución pública)
Plantea que muchos proyectos de innovación utilizan IA, pero no necesariamente son proyectos en los que aplique o sea necesario incorporarla. Se necesita capacitación, fomentar interacción con la academia, el sector productivo y la sociedad civil. Generar una comunidad u observatorio que mire a nivel nacional e internacional. Definir sectores o líneas prioritarias de acción donde se quiere hacer foco.
Intercambio Parte II
A continuación, se detallan los aportes de cada participante de la mesa en relación al tema planteado durante la segunda parte del intercambio.
Ronda: Pendientes del primer intercambio
Durante esta fase, intervinieron los participantes que querían aportar temáticas que no habían sido formuladas durante el primer intercambio. Se presenta un resumen de estas intervenciones respetando en el orden el que acontecieron durante la actividad.
Ceibal - Isabel Amigo (Institución pública).
Plantea que en el documento debe de aparecer algo relacionado a la investigación y desarrollo para evitar depender de terceros en el uso de herramientas. Proponer alternativas.
Udelar - María Inés Fariello (Academia)
Considera que es necesario empoderar a la ciudadanía sobre los datos. Evitar lo que ocurrió en la pandemia que se debió recurrir al armado de bases de datos con información cruzada sobre las personas en diferentes organismos. Buscar ámbitos para integrar a la academia, sociedad civil, entre otros. Contar con un observatorio, como espacio activo que disponga de mayores libertades y soberanía de acción.
Data Uruguay - Ana Tuduri (Sociedad Civil)
Identifica que hay que tener continuidad con la estrategia y política, que no dependa del enfoque de cada gobierno.
Agesic - Valeria Colombo (Institución pública)
Plantea que el uso responsable es transversal, y debe de tener múltiples perspectivas. Buscar que la gobernanza del ecosistema tenga diversidad. Promover el desarrollo de capacidades en la administración pública, más allá del conocimiento (infraestructura, regulación, buenas prácticas). Propone cambiar el nombre del pilar “IA y ciudadanía digital” por “Fortalecimiento de la ciudadanía digital”. Además, identifica que se necesita vincular esta estrategia con la estrategia de ciudadanía digital.
Discere – Daniel Guerrero (Sector privado)
Plantea su interés por la propiedad intelectual, la considera muy dinámica y compleja. Señala que actualmente surgen oportunidades sobre modelos abiertos que no se aprovechan. Entrenar modelos de IA con datos propios. La academia propone otros enfoques diferentes de empresas privadas. Además, ve la necesidad de disponer de espacios de maniobras más claros, que no dependan tanto de las empresas líderes.
INDHDP - Marcos Israel Cúneo (Institución pública)
Considera que el ecosistema está muy atrasado, no hay digitalización, mucha información está en papel. Fiscalía y Poder Judicial son ejemplos de organismos con estos problemas.
Ronda: Problemas, oportunidades y desafíos
Durante esta fase, todos los participantes tuvieron su espacio para compartir su visión, la que se presenta a continuación manteniendo el orden en que sucedieron durante la actividad.
ANII - Fabio Bonanno (Institución pública)
En relación a los desafíos considera que es necesario contar con personas altamente calificadas en materia de IA, porque entiende que hay escasez de esos recursos. En línea con lo anterior, crear una política de retención de capital humano. Identificar cómo podemos adaptarnos a los cambios vertiginosos de la tecnología. Auditar y controlar los algoritmos a utilizar en los proyectos de IA. Dentro de las oportunidades identifica que se tiene que mejorar la eficiencia y productividad. Promover la investigación y desarrollo con UdelaR y empresas privadas para luego volcar ese conocimiento en la sociedad.
BPS - Gonzalo Arzúa (Institución pública)
Tanto como desafíos y oportunidades plantea que se requiere construir capacidades. Seleccionar proyectos que requieran necesariamente el uso de IA. Evitar trabajo individual y repetitivo en los diferentes entes. Generar espacio para que los proveedores se formen de manera adecuada. En esta línea, también plantea la necesidad de que los proveedores se certifiquen ante el Estado, para que los avale a trabajar con los organismos, esto también provoca una nivelación de empresas.
LIDECO - Nicolás Antúnez (Sociedad Civil)
Plantea como un gran desafío identificar y definir en qué dimensiones se puede regular la IA. En respuesta a esto, entiende que es posible definir pautas generales antes que el problema esté instaurado con los proveedores. Como opera Ley Nro. 18831, un desarrollo en un ente público es información reservada. Como opera actualmente el poder judicial, el que define es una persona de carne y hueso, por lo que puede haber problemas/diferencias con respecto a lo que el algoritmo resuelva.
BSE - Daniel Thevenet (Institución pública)
Considera que dentro de los desafíos se encuentra la capacidad de obtener datos útiles, y gestionarlos de forma segura. En tanto, acelerar los procesos operativos lo visualiza como una oportunidad.
INEFOP - María Bedrossian (Institución pública)
Plantea que uno de los grandes desafíos es generar una hoja de ruta que defina grupos de trabajo y actividades concretas para afrontar el trabajo relacionado a IA. Además, generar capacitaciones para el mercado laboral. Divulgar los productos que genere la estrategia, para lograr una construcción colectiva para el ámbito público.
INEFOP - Adrián Rosso (Institución pública)
En lo que respecta a los desafíos plantea que se requiere definir la gobernanza, la intervención de los diferentes actores y regulación. Nivelar la transformación digital, y gestión de datos en el ámbito público. Como oportunidades señala la mejora en la eficiencia en procesos y toma de decisiones. Determinar cuáles son los sectores estratégicos. Generar investigación, conocimiento y soberanía.
INAU - Aldo Velázquez (Institución pública)
Indica que los grandes desafíos se centran en lograr que los beneficios que brinda la IA no aumenten la brecha social, por lo contrario, contribuyan a disminuirla. Adelantase y reaccionar rápido a los cambios que se den. Como oportunidades plantea la posibilidad de promover una estrategia de datos que mejore el funcionamiento. Ser país de vanguardia, no entorpecer con regulaciones, favorecer a la academia y privados. Evitar comprar a terceros, y promover el desarrollo interno.
Agesic– Gabriel Hernández (Institución pública)
Plantea que los desafíos están relacionados con la posibilidad de impulsar capacidades en infraestructura, tecnológicas, servicios, ecosistema, entre otros. Mejorar la confianza en el ámbito del Estado, que la ciudadanía confíe, evitar no tener errores que provoquen retrocesos.
Discere - Daniel Guerrero (Sector Privado)
Considera que en muchos aspectos estamos muy avanzados con respecto a otros países, pero también tenemos problemas básicos en datos, accesos, entre otros. El plan que se logre tiene que tener un monitoreo y medir avances en este sentido para poder corregir el plan sobre la marcha.
Udelar - María Inés Fariello (Academia)
Dentro de los desafíos plantea aspectos como contar con una regulación que permita usar los datos sin vulnerar derechos y ética. Generar capacidades en la educación desde niños a adultos para reconversión laboral. Promover que se aplique a toda la sociedad sin generar brechas.
INDHDP - Marcos Israel Cúneo (Institución pública)
Plantea que, las redes de internet surgieron en los años 80 y recién hoy vemos los problemas. El desafió principal es discutir los temas antes que nos superen. Además, señala que la IA no tiene sentimientos y emociones. Por ende, la oportunidad está en entender que puede manejar procesos de mejor manera que los humanos (evita asignaciones poco transparentes).
Data Uruguay - Ana Tuduri (Sociedad Civil)
Considera que las oportunidades están definidas por poner los derechos humanos en el centro de la estrategia, crear espacio de buenas prácticas y usos. Además, generar sinergia con actores regionales y mundiales.
BSE – Ana Erosa (Institución pública)
Plantea que las oportunidades son infinitas. Para ello considera que es necesario emplear estrategias ágiles que se puedan validar y ajustar con los cambios. Trabajar de manera colaborativa con las grandes empresas. Crear servicios que los usen de manera efectiva. Crear una legislación que proteja adecuadamente los datos: las empresas tienen el modelo, pero necesitan los datos, y nosotros necesitamos los resultados. Lograr sinergia entre los diferentes actores.
BSE - Verónica Salaberry (Institución pública)
Considera que no es posible abordar muchos aspectos al mismo tiempo. Las oportunidades están marcadas por la capacidad de definir qué tipo de IA va a tener el Estado, y enfatiza que lo humano es muy importante. Además, trabajar temas con métodos agiles y con feedback para mejorar. El desafío importante lo visualiza entorno a la regulación de la IA, plantea que es necesario dar “pasos pequeños” pero seguros dada la complejidad. Definir que prima: ¿la ley o el marco regulatorio?
Ceibal - Isabel Amigo (Institución pública)
Considera que los desafíos radican en la educación, primar pensamiento crítico, rol de docente, la manera que se aprende y evalúa. En relación a las oportunidades, plantea que se necesita personalizar y mejorar la calidad de la educación y llegar a más estudiantes. Garantizar la equidad en el acceso a la tecnología, primar la aplicabilidad, transparencia, guardar soberanía de las soluciones.
Agesic - Valeria Colombo (Institución pública)
Plantea que los desafíos se centran en definir y pensar en equipos multidisciplinarios, para evitar sesgos. Desarrollar capacidades críticas desde la niñez. Los ciudadanos deben de apropiarse de sus datos. No perder el foco, el objetivo de todo esto, respetar los derechos y reducir desigualdad.
UAIP - Mariel Lorenzo (Institución pública)
Considera que el principal desafío es tener un balance entre oportunidades y riesgos. La clave de ese balance es dar transparencia. Todos deben de poder acceder a la información y capacitaciones, desde lo básico hasta lo más complejo. Contemplar diferentes rangos etarios y niveles de estudio.