Discusión
Primera intervención propuesta por la moderadora: presentación de los participantes, y una valoración general de la temática estrategia de inteligencia artificial.
Luego se generó un intercambio en forma espontánea, sobre los temas propuestos en materia de institucionalidad, gobernanza, oportunidades y desafíos que enfrenta Uruguay en este proceso, focalizando en la participación de los referentes invitados.
Maximiliano Maneiro
Resumió sobre los antecedentes de la Estrategia de IA vigente, elaborada a fines del año 2018, principios de 2019 y las oportunidades de abordaje de la misma. Agregó que la definición de la actual Estrategia IA comenzó con un perfil muy tecnológico desde Agesic, más allá de que contó con un equipo multidisciplinario en su elaboración, pero en esta etapa se está trabajando junto con la Estrategia de Datos, a nivel Programa de la Agencia, lo que suma nuevas miradas.
Gastón Milano
Abordó varios puntos en su exposición y en el intercambio con el resto de los participantes de la mesa, que fue surgiendo.
Comentó que trabaja en IA en ‘varios sabores’. Su primera mención es que deberían considerarse 2 puntos:
- el tipo de aplicaciones que se están desarrollando y cómo estas impactarán en la vida de los ciudadanos y
- cómo la gente construirá aplicaciones. Cree que va a cambiar la forma de crear sistemas. Indicó que lo que está en la mesa hoy es IA generativa, que se aprende desde el impacto y las responsabilidades.
Proviene del sector privado. No tiene opinión formada sobre hasta dónde llegarían las regulaciones. Si los ciudadanos del país, tienen interacciones con diferentes actores y aplicaciones, un ‘vale todo’ no debería ser una cosa muy buena. Entiende que en el sector público está claro que debe haber regulación. El manejo de los datos de las personas debe ser cuidadoso, pero por otra parte, indicó que la ética no es pública o privada.
Respecto a la capacitación, entiende que lo que se debe tener como país debe ser muy relevante. Educar también en las empresas y saber qué acuerdos de servicios tienen estas empresas, y que se pueda competir en forma razonable. También están los ‘grandes jugadores’ contra quienes no es fácil competir. Mencionó la importancia de mantener el balance entre competidores públicos y privados, asociado a lo propuesto por J.P.Pignataro. Pensar en las negociaciones con la ética de las empresas.
En una siguiente intervención, mencionó que en Uruguay hay varios organismos que están haciendo ‘cosas de IA’, y que seguramente este año y el próximo, son años de las pruebas de concepto. Seguramente también, algunos casos vendrán a Agesic a preguntar qué / cómo hacer.
Mencionó que hoy se está en ‘modo digitalización’ y que hay que pasar a ‘otro orden’. No es solo digitalizar, sino cómo digitalizar. Todavía se está en un mundo de PDF, especialmente en el ambiente legal.
Un punto interesante referido es que entiende que la revolución son las interacciones que las personas tenemos con el nuevo contexto, y no solo la IA por sí misma. Por tanto, es importante educar en la interacción con la IA, además de cuándo se usa la IA, cuándo no se usa y para qué se usa.
Refirió a Asimov, diciendo que en la forma de imaginar el futuro al 2030, seguramente lo que se escriba hoy estará equivocado. “Capaz que lo que se puede enseñar en la escuela es ciencia ficción”. Podría llenarse de casos de uso, plantados con temas éticos que existen hoy, con temas de seguridad de la información que están hoy. No se podrá explicar el algoritmo, pero muchas veces, la academia debería ir iluminando sobre estas cosas.
En toda revolución cambian muchas cosas: la educación es una de ellas. El desafío de la universidad también viene de la mano de que cuando llegan los estudiantes traen carencias. Profundizar el aprendizaje de matemática, de pensamiento abstracto. Entiende que la formación de UdelaR, debe seguir como está hoy.
Desafío: los datos, que es de donde parte todo. Siente que la pandemia mostró que había carencias, a nivel ciudadanos alrededor de los datos. Además de las carencias en cuanto a conocimiento de la ciudadanía, señaló las carencias de las propias entidades públicas en el contexto de la pandemia (ej: no tenían datos básicos de las personas, ni de cómo contactarlas).
“Prefiere que la IA determinística no alucine más que la probabilística”.
Aspecto de seguridad. Se debe hacer enforcement en toda la industria y en todos los niveles.
Desde el punto de vista de la tecnología, hay que poner en la agenda que se necesita dinero. Hoy lo más avanzado que tiene Uruguay es ANTEL, y habría que resolver este esquema que no solo se resuelve con Microsoft poniendo plataformas. Debe disponerse de una plataforma óptima.
Al indagar sobre potenciales sectores a priorizar, destacó el agro, teniendo en cuenta la vocación agroexportadora de Uruguay. Mencionó que sectores como la salud y la educación pueden ser complejos dado el uso de datos sensibles.
Juan Pablo Pignataro
Mencionó que ANTEL (empresa pública en la cual trabaja) no es una empresa digital nativa. Comenzó por capas desde el dato, en el cuidado del dato y de la gobernanza de éste, lo que generó un cambio cultural muy grande. A nivel de IA, se trabaja en varias funciones (análisis crediticio de personas, estimación de demanda, scoring de clientes, movilidad, etc.), y analítica interesante que no es IA, pero la idea es agregarla, por ejemplo datos sumarizados y agregados sobre movilidad a través de dispositivos para diferentes usos tales como transporte, INE (Instituto Nacional de Estadística), etc.
A nivel de usuarios, debe trabajarse en el entendimiento (reforzó este concepto) de lo que es IA: cuándo y para qué se usa, la interacción como ciudadano está en todos lados, en públicos y privados.
Respecto a la regulación, mencionó que ANTEL, es una empresa que está en competencia y que no debería limitarse frente a un privado, aunque sea una empresa pública.
Proteger y potenciar el conocimiento que hay en Uruguay, debe tener gran alcance, pero protegiendo a la ciudadanía y las empresas para que puedan seguir innovando y trabajando.
Educación: hay que verlo como un todo no solo ver la temática de IA. Educar también en las oportunidades que se abren: manejo de los datos, calidad de los datos, no se necesita ser ingeniero para trabajar en esas ramas. Entiende que hay que ver y mostrar las oportunidades frente al tema de pérdida de puestos de trabajo. Hay que generar los espacios donde esa de educación sea aplicada.
Apoyar los laboratorios que se están armando (mencionó el caso del Lab lanzado por Microsoft, recientemente), generar innovación y más importante es proteger esa innovación. Una de las vías de protección de la información son las normas de propiedad intelectual. No mirar a nivel de tecnología si el algoritmo es transparente o no, sino orientar a los casos de uso y su aplicación. Señaló además que se debería orientar los casos de uso adoptando un enfoque semejante al europeo, donde los riesgos de valoran según el uso que se dé a los sistemas de IA.
En una segunda intervención, apoyó el tema de los ‘sellos de calidad’: es un tema muy importante, con la salvedad respecto a cuidar que cumplir con el sello, no genere una limitante a la innovación.
Agustina Pérez Comenale
Destacó el trabajo de Agesic en esta materia.
Lo primero que se planteó es una pregunta: ¿la realidad, en la práctica, es que las tecnologías generan sinergia, y los marcos de discusión son para intentar ver los aspectos que cubran esta realidad?
Respecto a la regulación: entiende no solo debe aplicar al sector público.
La innovación debe contar con ámbitos seguros. Generar comunicación entre diferentes áreas, tomar el panorama internacional, ser realistas generando controles. Mencionó que hay muchas islas dentro del Estado. Que pueden ayudar los marcos beta de prueba, por ejemplo.
Respecto al análisis de datos: que cada oficina pueda proveer información más sencilla a la ciudadanía con análisis previo.
Por otra parte mencionó que en el ámbito privado aparece el tema de la propiedad intelectual y que Uruguay está atrasado en este punto. Señaló la importancia de atender las carencias en materia de propiedad intelectual, lo que es clave si, por ejemplo, se piensa en incentivar la transparencia algorítmica vía regulación.
Es difícil para los privados trasparentar sin tener una política de patentes. Incentivar las garantías de desarrollo a esas empresas privadas. Dar seguridad a sector privado.
¿Qué se va a pedir con el lanzamiento del algoritmo? ¿En qué forma: preventiva, proactiva, control ex post?. Lo que se resuelva, seguramente impactará en el dinamismo.
Respecto a las referencias a estos temas, sugirió no dejar de lado el estándar europeo, lo que podría viabilizar la inserción, adaptado de una forma que genere atractivo para empresas internacionales.
Mencionó la importancia de visualizar la oportunidad de sinergia de diferentes instituciones a tener líneas genéricas (ejemplificó con el tema de los servidores), tener lineamientos de estándares, por ejemplo, en ciberseguridad. Las islas deberían contemplar los principios básicos.
Respecto a la formación: entiende que debe alcanzar a todos los niveles: universitario, secundario y también primario. Los niños están trabajando con algoritmos todo el tiempo. Debe promoverse la adopción a nivel educativo. Instruir el control parental, qué cosas les deben llegar y de qué forma a niños y niñas.
No solo la formación técnica sino la educación a nivel general. Tendría que haber asignaturas específicas que lo aborden.
Javier Barreiro
Alcance de la estrategia IA: debe ser más amplio que el gobierno digital. Esta discusión se tuvo oportunamente, con la estrategia actual, y se valoró en ese momento, no abrir el alcance dadas las competencias de Agesic y la complejidad que conlleva. Señaló que al definir una estrategia que vaya más allá del gobierno digital, debe analizarse la institucionalidad de Agesic, sus competencias y funciones. Mencionó que hay una mirada mucho más allá de lo nacional, y la poca capacidad de Uruguay para poner temas en la mesa.
Mencionó que mirando hacia 2030 podría pensarse en tener un ‘sello de calidad’ en cuanto al cuidado de los datos, políticas y aplicación ética, como un diferencial de calidad sobre otros países. Hoy los call center uruguayos compiten en Europa porque tienen estandarización de calidad.
Mencionó además, que lo pendiente en la actual Estrategia IA es la gobernanza. También entiende que es bueno e importante tener desafíos a largo plazo, pero en el ‘mientras tanto’ debemos plantear el qué hacer.
Cosas buenas: Agesic tiene conocimiento acumulado y es un referente para lo que pase mañana. Hay además otros organismos de porte como ANTEL, por ejemplo. También hay oportunidades en sectores de interés para hacer cosas, (ejemplifica con salud), acompañados por Agesic. Además, otras empresas en Uruguay a las que podría potenciarse.
Identificó como el mayor desafío los plazos: cómo apoyar para que las cosas en el corto plazo vayan sucediendo.
¿Qué debería priorizarse en el corto plazo? Mencionó: hacer cosas, como casos de uso, acompañado por gente que pueda hacer contención de daño. Generar historias de éxito. Indicó que en los índices faltan casos de uso.
Además destacó la importancia de poner este tema en la cabeza de quienes hacen las leyes. Hay que generar la agenda a quienes ‘están en la televisión, los legisladores’.
Al igual que Gastón, señaló que el agro podría ser uno de los sectores priorizados, y resaltó la complejidad por el manejo de datos sensibles en los sectores de salud y educación.
Aiala Rosá
Representa al Instituto de Computación - Grupo de procesamiento del lenguaje artificial. No solamente se presenta a nivel personal.
Enfoca en temas de formación: más allá de cómo se maneje a nivel de gobierno, debe haber conocimiento de lo que haya detrás de las herramientas en cuanto a su uso, además del cuidado ético, de los datos que hay dentro.
También planteó considerar temas de soberanía: ser más dueños de las herramientas para desarrollar modelos de gran tamaño.
Mencionó algunas actividades de formación en coordinación con ANEP (Administración Nacional de Educación Pública) para docentes de todos los niveles, como replicadores.
Mencionó también que existe un debe en enseñanza secundaria, y que hoy depende de los docentes más que de lo curricular. Es fundamental la apropiación de estos temas por parte de las nuevas generaciones, apuntando a disminuir las brechas, incorporando a más personas.
Indicó que a nivel de gobierno digital ‘somos referentes en el mundo’. A nivel academia ‘estamos bastante bien’. Mencionó la repercusión del evento Khipu al que asistió muchísima gente, evento de referencia, lo que da una lectura de que hay cosas importantes que están pasando y que no es casualidad.
Mencionó que en la Facultad de Ingeniería se trabaja desde hace muchos años en IA: procesamiento de lenguaje, imágenes, audios, etc. Resulta difícil aumentar el egreso de facultad, e indicó que la relación es que ingresan 900 personas pero solo egresan 100 (en términos generales). La deserción es alta en los primeros años, y este es un gran problema a abordar.
Entiende que hay que pensar las grandes políticas, tales como regulación de datos a largo plazo. Pero a corto plazo capaz que podrían verse áreas de aplicación específicas para poner el foco (por ejemplo pilotos). En cuanto a posibles enfoques de la política pública, propuso la educación y los sesgos.
Luego, sumó a cómo se aplica la IA en la educación y mencionó algunos ejemplos: analítica educativa, generación de herramientas, etc. El Instituto de Computación está en contacto con ANEP. Por otra parte, existen problemas cuando desarrollan: falta de infraestructura, recursos, equipos, lo que hace complejo el desarrollo.
Virginia Pardo
Explicó la dinámica y los resultados de la mesa de diálogo que se realizó en pasado miércoles, invitando a la próxima mesa. También explicó que una de las cosas en las que se está trabajando es lo relativo a participación internacional: la ubicación de Uruguay en el mundo, donde se es referencia en algunos temas y hay un contexto favorable en ese ámbito. La referencia de Uruguay, la visualiza particularmente en los temas: 1) tecnológicos, 2) de políticas públicas (estrategia IA), 3) de institucionalidad, 4) referido a la generación de espacios participativos.
Coincide en la generación de iniciativas que fortalezcan la confianza en el país, sumado a la estabilidad y a la evolución también.
Reflexiona sobre la propuesta de un desafío: si Uruguay quiere ser confiable en todos estos aspectos vinculados con IA, es bueno mantener esa mirada, mostrando al mundo la credibilidad y los procesos de avance. Mirar la reglamentación de la UE que está avanzando.
También mencionó las acciones que se están llevando adelante como señales, por ejemplo adhesión a las Recomendaciones de Ética de la IA de UNESCO, el apoyo de CAF en este proceso, la apertura del mismo.
Pensar en el equilibrio entre regulación y no limitación, desde el ambiente de confianza. No es solo promover la IA en el sector público. Aprovechar a que la industria se sume.
Mencionó que en el proceso de revisión de la estrategia de Ciudadanía Digital también se presentó foco en IA y la formación a la ciudadanía sobre estos temas. Cuáles son los valores o responsabilidades que se deben considerar desde el pensamiento crítico.