Subgrupo 4
Moderadora: María Fernanda Arciniegas, CAF
Relatora: Nancy Ibarra, Agesic
Participaron 17 (diecisiete) personas de 15 (quince) Instituciones públicas, Organizaciones de la Sociedad Civil, Academia y del Sector Privado.
Intercambio desarrollado en las diferentes rondas de conversación
La moderadora, propuso dos rondas de conversación:
En la primera realizar la presentación de los y las participantes, y una idea general de valoración de la temática Estrategia de Inteligencia Artificial.
La segunda ronda propone compartir oportunidades y desafíos que enfrenta Uruguay en este proceso, y mencionó el aspecto de la tensión empleo y nueva tecnología para ejemplificar un foco de opinión.
Agesic – Mauricio Papaleo (Institución pública)
Refirió a que los temas de seguridad son temas sensibles. Planteó que en términos generales hay buenos o malos usos de la tecnología. Debe establecerse criterios de cómo hacer uso con cuidado sin que frene el desarrollo de las cosas positivas.
El ámbito de aplicación de la estrategia de IA cruza toda la sociedad en tanto público y privado, nadie puede quedar fuera por tratarse de un cambio cultural. Debería pensarse no solo a nivel local, mirando otros ejemplos como UE.
Podría pensarse en colaboración público-privada.
Acompañar estos cambios a nivel social. La formación en esta tecnología, debe además incorporarse en todos los ámbitos de la educación. Las personas deben desarrollar pensamiento crítico sobre estos temas, teniendo claridad sobre el cuidado de los datos.
Sus preocupaciones:
El origen de las conclusiones de aplicación de la tecnología. Que sea posible obtener el camino de cómo se llegó a las conclusiones (hoy muchas veces no es posible). Transparencia sobre el qué y el para qué se usa.
Gobernanza - centrado sobre el uso y la ética. Debería haber una unidad que esté velando por el buen uso de la tecnología bajo determinados criterios previamente acordados.
Tensión entre empleo y el uso de la IA. Oportunidad de redistribuir los recursos.
Agesic – Santiago Pérez (Institución pública)
Entiende que el alcance de la Estrategia debe ser lo más amplio posible. Deberíamos preguntarnos para qué se usa esta tecnología, más que quién la usa. En este sentido, menciona que la ‘voz cantante’ la tienen las grandes empresas de afuera y sobre las cuales hoy no tenemos control.
Importante que exista regulación, estableciendo cómo regular o controlar, para velar porque las condiciones sean las mismas para todos. Además, educando a las personas para que estén protegidas.
Antel – Juan Pablo Pignataro (Institución pública)
Identificó 2 planos respecto al alcance de la estrategia de IA:
usuario – ética, cuidado y uso de los datos. Concientizar en este aspecto con capacitación y particularmente entendimiento por parte de la ciudadanía
regulación – en ámbito público y privado. Agrega ventaja competitiva en las empresas donde la hiper regulación podría quitar esa ventaja. El desafío es el equilibrio y el cuidado.
Por otra parte, el alcance debería pensarse global, no solo para Uruguay.
Respecto a los desafíos, entiende que la industria necesita mano de obra, personal calificado. La IA sustituirá muchos trabajos, y deben identificarse diferentes capas de lo que habla la IA, en las que alguien aprendiendo pocas herramientas, se puede comprender y trabajar en IA. Ejemplo: testeo, análisis y otras especialidades que se puedan abrir. Debe mirarse como una oportunidad. No hay que ser un científico de datos para trabajar en IA, sino que abre muchas posibilidades a otras tareas.
BPS - Fabián Álvarez. (Institución pública)
Plantea como preocupación, cómo se posicionarían empresas privadas y públicas, y también la competitividad del país. Como propender a un uso correcto de la tecnología sin frenar el desarrollo del país en una disciplina. Hay posibilidad de trabajo en conjunto.
En los modelos de datos para cada uno de los escenarios que se planteen, ver la finalidad del dato originario (trae el ejemplo de obras de artistas).
Además, plantea que no hay control de acceso a plataformas, por ejemplo. Importancia del tema de transparencia: el uso de las plataformas no es transparente. Es necesario pensar el equilibrio entre uso de las plataformas y la competitividad. Las empresas son poderosas y formadoras de opinión, hay que hacer algo a nivel mundial.
Por otra parte, coincide en la necesidad de capacitación del ‘usuario de a pie’: campañas de sensibilización a nivel ciudadanía y enseñanza para diferentes perfiles involucrando otro tipo de razonamientos en primaria, secundaria, por ejemplo.
Y respecto a los proyectos: cambia el paradigma a nivel de éxito o resultado de proyectos. Trae el ejemplo del chatbot, que facilita la labor del usuario por ejemplo, pero este debe estar preparado.
Definir los casos de usos más aplicables. Cuáles pueden ser importantes. Hay muchas oportunidades de muchas cosas, y sobre todo una forma de la gestión del conocimiento de poder relacionar cosas más fácilmente. Visualiza una oportunidad para optimizar esfuerzos especialmente en la centralización.
BROU - Alejandro Álvarez (Institución pública)
Cuenta cómo en el BROU les cambia la forma de trabajar, para extrapolarlo al gobierno. Menciona el impacto que la tecnología trae sobre las organizaciones.
En particular, comentó los cambios de una institución, tomando de base la experiencia en el BROU:
Aparecen áreas de analítica en el organigrama que antes no existían.
Se elaboró un comité de datos en el Banco, como ámbito permanente. Órganos de gobernanza para hablar el mismo idioma de la misma manera y que los atributos tengan el mismo alcance.
Encontraron en los datos un acelerador en el camino hacia las metas, para descubrir acciones buenas y malas, qué cosas activan riesgos y qué cosas no.
Con respecto a la protección de datos, menciona que ‘se protegen tanto los datos, que a veces no se usan correctamente’. Para eso, propone trabajar en casos de uso de propuesta, logrando sinergia en el Estado. Proponen onboarding digital único para toda la banca. Lo visualiza como un aspecto competitivo. La banca privada lo tiene. Respecto a los datos no tienen opción de usarlos o no usarlos. Importancia: eficiencia y mejora en la competitividad.
Respecto al futuro del trabajo, menciona que hay agendas en otros grupos. Sabe que existe en el parlamento, por ejemplo.
Toma el tema de gobernanza:
generar un marco con funciones y roles específicos entre público y privado y allí empezar a reconocer los derechos, y armar un mapa.
educación: la pandemia generó muchos aprendizajes que deberían mirarse. (volvimos para atrás como si no hubiéramos hecho nada – trae el ejemplo como parte de ‘cambiar paradigma’).
Respecto al futuro del trabajo, hay agendas en otros grupos. Sabe que existe en el parlamento, por ejemplo.
BSE - Joaquín Meyer (Institución pública)
Preocupación por la protección de datos. Las propias limitaciones o autolimitaciones para favorecer la protección de datos generan freno en los impulsos, en la innovación.
Alcance de la estrategia de IA, entiende pertinente compartir la visión de extender la regulación del sector público al privado.
Desafío – es muy disruptivo el impacto de la tecnología. Dentro de la regulación debería favorecerse la interacción público - privada. A nivel nacional y a nivel global. Las corporaciones globales exceden nuestra capacidad de regulación.
A veces visualiza que hay centralismo en la regulación, pero vinculado a que la ‘regulación va atrás’. También la estrategia debe tener una fortaleza en educación, formando usuarios para el mejor uso de la estrategia. No proponer cosas que en la práctica no se puedan implementar.
Líneas que debe tener la estrategia:
Promover usuarios críticos.
Educación a nivel de los usuarios.
Área de aplicación: la salud, capacidad diagnóstica. Sería interesante promover el desarrollo en ese sentido, sin dejar de lado el tema de ‘la persona’. Área en la cual hay muchas posibilidades.
BSE – Elen Rodríguez (Institución pública)
Enfoque de derechos de las personas: en el área en la cual trabaja (el área de la salud) toda la información son datos, y derechos de las personas.
Coincide en generar capacitación a diferentes perfiles y orientada a la comprensión de lo que está pasando con la tecnología.
Respecto a los desafíos, entiende que la IA puede ayudar mucho en el área de la salud, por ejemplo en la prevención y control de infecciones, seguridad de los pacientes, prevención de errores de atención, teniendo en cuenta las enseñanzas que dejó la pandemia.
Encuentra como oportunidades la mejora respecto a expectativas de usuarios.
DNA - Gabriel Canobra (Institución pública)
Menciona que IA llegó para quedarse y que en la Aduana, hay aplicación de algoritmos para temas de control.
Respecto a la estrategia de IA, entiende que debe existir regulación en ámbito público y privado y considera que el sector privado es fundamental, sobre la base de interacciones (ejemplifica en el caso de Aduana, con la interacción con Despachantes).
Agregó también no dejar todo el control al Estado. No dejarlo en un solo sector, sino pensar también un monitor ciudadano. Hay que cambiar los paradigmas.
También visualiza que debe existir mayor accesibilidad y capacitación en general.
FGN - Inés Pérez. (Institución pública)
Enfocando IA hay muchas ramas específicas. Se visualiza una buena herramienta para priorizar el delito a investigar. Menciona preocupación sobre qué reglas usar: “da un poco de miedo en ese sentido, y más sabiendo que hay SW en Argentina que arma las sentencias, por ejemplo.”
Entiende que hay mucho análisis por delante y valora estos espacios. Entiende que debe trabajarse en forma transversal, colaborativamente entre organismos, ordenando y analizando los datos. Qué datos sacar, etc.
Por otra parte, si bien coincide en las miradas positivas mencionadas, indica que no deben olvidarse los riesgos que puede tener el desarrollo de la IA.
Entiende que la estrategia, precisa prever infraestructura y procesamiento con el que en general no se cuenta, y está se usan motores en nube, etc. Capaz que habría que agregar una mirada global, y a nivel Estado ya tener algo previsto.
INDHDP - Martín Prats (Institución pública)
Mirada desde los DDHH: visualizar qué derechos humanos están en juego con estas tecnologías. Verlo no solo como amenaza, sino como un instrumento que puede promover derechos.
Obliga a pensar en líneas diferentes el cómo se puede llevar a defensa de DDHH a través de políticas públicas:
¿Es necesario más regulación, o con la que existe es suficiente? ¿Es necesario más reguladores? ¿Con qué competencias y con qué potestades? (problema: control del regulador, cómo se propicia la participación transparencia y acceso a la información a partir de allí.
Las brechas de acceso a la tecnología, pueden afectar el ejercicio de diferentes derechos. Diferencias notorias en el uso a nivel de usuario: económicas, de acceso a la tecnología básica, generacionales, de género, de capacidades diferentes. Si se habla de una política pública, democrática y representativa, hay que abordar estas problemáticas.
También es importante la educación en derechos. Cómo educar en derechos a partir del uso de la tecnología. Cómo trabajar en la academia para entender esto en todas las disciplinas, y ver también la calidad de la educación.
También en el nivel del sector privado. No es lo mismo una multinacional que una nacional, no es lo mismo capital que interior, etc.
Respecto a la gobernanza, menciona que podría pensarse en una unidad reguladora y controladora como por ejemplo la UAIP. Todo se vincula a partir de desarrollar política pública de universalización de acceso a la IA. Citó además, el ejemplo que en acceso a la información pública hay organismos muy transparentes y hay otros que no la encuentran ni la acceden.
Respecto a la tensión entre empleo y tecnología, mencionó que desde la revolución industrial hasta nuestros días, esto siempre se ha dado. Habló del trabajo y del reparto de riqueza. También hay un desafío de criterios distributivos a partir de transformación del trabajo.
Intermedia - Marcos Silveira (Sector privado)
Mencionó que trabaja en datos abiertos y que trabaja con generación de gran volumen de datos, lo que abre la posibilidad de explotar esa información. También comparte lo mencionado por otros participantes en cuanto a protección de datos y al resto de los comentarios.
Entiende que el ámbito de aplicación de la estrategia de IA debe ser público y privado. Por otra parte mencionó sobre enfoque de compartir aprendizajes, utilizando diferentes datos pero el mismo objetivo. Ejemplifica con clasificación. Promover el trabajo colaborativo, en pos de alcanzar objetivos para diferentes sectores.
Poder Judicial - Fabiana Cosentino (Institución pública)
Pone el foco en la protección de los datos. Indicó que hay gran preocupación en el organismo en el cual trabaja en este punto, dado que existe información reservada que es tal, ante el temor de publicar cosas que no deben publicarse. Apoya la transparencia, pero también la protección de datos de las personas.
Ejemplificó con publicación de sentencias, decretos, y otros documentos que contienen información personal.
Difusión y comunicación al público en general de qué es, dónde impacta y cuáles son los riesgos de la tecnología. En la vida diaria se usa y los usuarios no tienen idea de lo que están haciendo.
Podría incluirse alguna materia curricular en secundaria, en carreras universitarias, lo que visualiza como muy importante. Mencionó que no hay técnicos especializados en IA, y no hay recursos para capacitarse.
Poder Legislativo – Cámara de Representantes - Carlos Rocca Balea (Institución pública)
Visualiza un desafío a nivel del Estado en incorporar esta lógica respecto a entender muchas veces la aplicación de la tecnología sobre lo que se hace y las implicancias que puede tener. Preocupa generar común denominador del Estado para abordar juntos la problemática, no solo a nivel tecnológico sino en el entendimiento del uso de la tecnología, el alcance y la incorporación natural.
Preocupación: capacitación a nivel gerencial para atender cada una de las realidades que se presentan, porque esto ‘pega en toda la sociedad’ no solamente en el Estado. Hoy el Estado forma parte, los organismos incorporaron redes sociales y datos en esas redes. Se debe legislar para abarcarlos a todos.
En la Cámara, recién se ingresa a considerar como pararse frente al uso y la protección de cómo se maneja y se usa la información, Requiere mucho apoyo.
Comparte la preocupación que se plantea en la mesa y las diferentes iniciativas propuestas.
Sigue creyendo que es un desafío de un tema demasiado importante para el funcionamiento del Estado, del país y de las personas. Si bien se creó una estrategia, a nivel estatal, desde su punto de vista, el Estado no absorbió la problemática, los organismos no absorbieron la problemática, no hay una política general de aplicación de esto.
Tenemos diferencias de gestión, lo que hace un gran desafío, que traslada a Agesic, como órgano regulador de la tecnología, ver como entrar a los organismos para que se incorpore institucionalmente, en forma importante en todos los niveles.
QUANAM - Carlos Alba (Sector privado)
Indicó que “imaginando lo hecho, lo que veo hasta como ciudadano, que lo fundamental es hacerse amigo de los cambios”. Enfatiza en la necesidad de capacitación sobre la tecnología y fundamentalmente sobre qué está pasando con estos cambios. Es un cambio muy disruptivo, que merece enfocar formación para absorberlo, dando importancia a entender qué está pasando.
Visualiza como desafío en la regulación:
Hay un hito muy grande en la velocidad de las cosas que están pasando. Cómo hacer para diseñar esa regulación pensando en lo que va a pasar hacia adelante, siendo que es difícil pensar mucho más adelante en temas de tecnología. Los cambios son mucho más cercanos.
En el diseño de la estrategia de IA, considerar los datos, la explicabilidad y la aplicación en diferentes ramas. Hay nuevos desafíos que tienen que ver con quiebre de paradigmas.
Propuesta: se podría trabajar con labs multidisciplinarios, generando una red de labs de innovación con esta temática, que abarque empresas, ciudadanos, etc.
Udelar - Manuel Podetti (Academia)
Coincide con la importancia de la formación de capacidades. Menciona que ‘venimos de atrás’. Hay estudiantes a punto de egresar de facultad, que tienen dudas en cuanto la huella digital, ni siquiera lo comprenden. Debe escalonarse la capacitación. Quitar los miedos de la IA y concientizar sobre riesgos y peligros que tiene y razonar el tema de inclusión, por el tema de los derechos humanos manejados.
Debe convivirse con lo privado. Si o si generar insumos para incluir al ámbito privado.
Respecto a la estrategia de IA, entiende que hay que regular con cuidado pero hay que regular, incluyendo una comunión de todas las miradas: innovación y desarrollo, investigación. Es necesario la convivencia con las estrategias de datos y de ciudadanía digital.
Mencionó que la introducción de la actual estrategia de IA para el GD, es algo ‘neutra’ y se requiere estrategia crítica, no tan positiva como es hoy. Se debe apuntar a proteger a los ciudadanos. Coincide en la necesidad de fijar líneas inspiradas en lo que pasa en el mundo, pero con una localización al medio. Generar contactos con otras organizaciones, y otros países para sumar esfuerzos y coincide en tener infraestructura local.
UAIP - Alejandra Villar (Institución pública)
Visualiza cosas muy positivas en el uso de la herramienta. Menciona que desde su representación en materia de ‘transparencia y acceso a la función pública’, aparece una luz amarilla por el uso de esta información con la debida transparencia y la protección de datos personales. Debe existir equilibrio entre los 2 derechos.
El aspecto flojo del acceso a la información pública es la gestión de la documentación. Esta tecnología ha sido útil en gestión de documentos. Por otro lado, si se quiere que y la gente se empodere, debe difundirse, y hacer entender al común de las personas para qué sirve y en qué casos concretos se pueden utilizar estas herramientas.
Insiste en el tema de la enseñanza y la difusión de la herramienta, colectivizando los usos posibles. Orientar en el buen uso, protección y ejercicio de los derechos.
En cuanto al espacio de aplicación concreta, insiste hay temas de la administración pública relacionados con la gestión de la documentación administrativa. Hay documentos que son tediosos y que quedan en manos de pocos profesionales para su gestión.
URCDP - Gonzalo Sosa (Institución pública)
Alcance de la estrategia IA: comparte lo que mencionó Santiago Pérez. Partir de la actual estrategia implica reformular los principios de una manera general, más allá que puede haber principios aplicables
En cuanto a la protección de datos personales, indicó que las normas no son una limitante al uso del dato, sino una limitante al uso no responsable del dato y que ese es el sentido de la norma. Tal vez centrarse en algunos consejos, ya no serían normas reglamentarias, sino tratados internacionales, por ejemplo.
Menciona que requiere centrarse en 3 aspectos:
riesgos: cuáles aceptar o no
explicabilidad: qué, a quién
auditabilidad
Buscar sectores donde sea provechosa su aplicación, identificando como priorizar, y equilibrar beneficios y riesgos.
Promover el pensamiento crítico, no solo la ‘defensa individual’, sino reacciones más colectivas de defensa de las personas.
Los aspectos de regulación: mencionó que no está seguro de que corresponda más regulación. Analizar dónde hay que poner el foco: hay aspectos pequeños que hacen a la defensa de las personas, actualización de los marcos normativos, para que se aun desarrollo más integral
En algún lado deberían estar estas cuestiones. Hay cosas que si no están establecidas, ni siquiera pueden controlarse.