Subgrupo 5
- Moderador: Rodrigo Capdevila, Agesic
- Relatora: Nancy Ibarra, Agesic
- Participaron 11 personas distribuidas de la siguiente manera: cuatro referentes de instituciones públicas, cuatro organizaciones de la sociedad civil, dos instituciones académicas y una persona participó a título personal.
Parte 1: Ronda de intercambio
SIC – MEC - Natalia Ríos (Institución pública)
Señala que hay muchos desafíos y oportunidades que aparecen con mirada apocalíptica. En todo cambio tecnológico hay cosas para problematizar que deben permitir visualizar los impactos positivos. No disociar la tecnología de lo humano, pues son humanos quienes crean la tecnología. Indica que no todo es tan binario y es oportuno frente a esta época difícil y con futuro incierto buscar oportunidades en estas tecnologías.
AUCH - Pablo Praino (Sociedad civil)
Comienza señalando que no es la primera vez que se habla de IA y la preocupación por la orientación que se le ha dado. Ejemplifica con algunos focos positivos que ha tenido en Japón tanto en una panadería para identificar panes, como para identificar células cancerígenas. Sin embargo se ha enfocado en automatizaciones en sectores donde no hay un problema a solucionar: escribir, dibujar, y otras actividades creativas.
Siendo "Inteligencia Artificial" la palabra "de moda", lleva a que IA se use en todo. Ejemplifica que en tres comerciales IA se usó en publicidad solo porque la palabra es lo que está de moda. Es inevitable el uso banal. Agrega que en el trabajo de historietas, por ejemplo, cuando la automatización entra en juego, puede haber complicaciones.
Se puede automatizar ciertos procesos, pero la decisión final en toda la toma de decisiones debe ser humana.
Comenta que se empieza a poner freno en uso de la tecnología recién cuando aparece algún problema legal que puede generar juicios, por ejemplo en generadores de imágenes que bloquean palabras clave y nombres específicos para evitar ser demandados por los damnificados con peso legal.
Agrega que se vuelve cada vez más complicada la regulación de la creación de contenido, porque hay modelos individuales no centralizados y que obviamente no se puede estar en la casa de cada persona, pero si se puede regular en espacios públicos y de uso comunitario.
Mencionó que dentro de la esfera pública, hubo concurso de ilustración donde se aceptaba material con IA.
Balsa María – Abogada, consultora (Independiente)
Indicó que: tanto el uso de marcas de agua u otros identificadores digitales para identificar la generación de contenido sintético plantean dificultades, ya sea por ser fácilmente eliminables en caso de ser incluidos en los outputs generados por los sistemas de IA, y por otro lado no en todos los casos podría justificarse la obligación de su utilización (para identificar el output como contenido generado por IA). En este sentido será un abordaje útil estimular que dichas marcas sean utilizadas para identificar contenidos generados por humanos y para identificar fuentes fiables.
En el caso de los concursos, las declaraciones de autoría y/o de uso de herramientas de IA, y en su respectivo alcance, es un camino a seguir, más allá de las dificultades probatorias referidas.
Lo que regula es los derechos de autor. Quien maneja la herramienta manifiesta tener el control de esa obra.
Respecto al concurso mencionado, indicó que no había forma de proteger a nadie: ni al artista que declaraba ni al que usaba la herramienta de modo legal, ni al jurado que no podía distinguir no se podía, ni a los abogados.
Con la declaración de derechos de autor, se tomó este camino.
TUCE – FHCE - UdelaR - Felipe Correa (Academia)
Respecto al tema de los miedos apocalípticos, menciona que Brechner (ex presidente de Plan Ceibal) ha dicho en su momento que tiene miedo de la velocidad. Hay asimetría para gente que tiene alta capacitación. Hay una gran cantidad de cosas que las personas pueden hacer, que la IA las cubre.
¿Capacitación con IA o qué tipo de IA nos permitiría conseguir reconversiones laborales y de capacidades donde sea necesario?
Respecto a la declaración de uso, señala que no es una garantía en los hechos, es un acercamiento a una garantía desde el punto de vista del derecho.
Las declaraciones de uso de IA deberían ser no solo una etiqueta, deberían ser como los octógonos de los alimentos, que indican la presencia de tal o cual sustancia. Ejemplo: se usó IA para tal o cual cosa. Nadie usará una etiqueta de ‘NO SE USA IA’.
Menciona sobre los peligros por responsabilidad por plagio inadvertido. Cuando se usan herramientas abiertas y se plagia sin saberlo por fuentes utilizadas. Buscar cómo proteger a los usuarios.
En los contratos debería haber cláusulas de uso para los creadores respecto a si se puede o no usar la producción para alimentar IA. En algún lado debe haber una autorización de uso, y qué regalías debe haber por única vez y por flujo con ganancias. Esencialmente el modelo de los pools de Spotify los considera inadecuado.
Tanto en las organizaciones privadas como en las públicas debe atenderse el tema del sesgo como la desalineación en el entrenamiento.
CURE – UdelaR - Pablo Boquete (Academia)
Señala que lo que está por detrás es la relación entre arte, técnica y tecnología. Es la pelea de siempre. Considera importante pensar en una analogía de IA en el inicio de lo que fue internet, y ver qué tan rápido se va a desarrollar. Por ejemplo con qué cantidad de imágenes se entrena IA. Cada vez se entrena con menos imágenes y solo con una descripción y es una nueva forma.
Es un nuevo planteo. Hay muchos creadores que trabajan de una manera que habría que ver cómo esto no se los ‘lleva puestos’, que de pronto de la noche a la mañana quede obsoleto, es un problema. Lo que encuentra en la licenciatura: qué se le enseña a quienes egresarán en 5 años.
CDU - Carlo Nicola (Sociedad civil)
Menciona que al formular una consulta con estudiantes sobre avances en el trabajo, resultó que “no habían avanzado en nada porque no había nada que hacer” (en el escenario de trabajo con herramientas de IA generativa).
Considera que es un problema crítico. El paso atrás no se lo cuestionan: “la máquina tiró esto y ya está. No hay docentes en medio viendo esto con criterio de falta de pensamiento crítico”. Se queda con un resultado de 15 minutos reflejo de promptear durante 5 minutos y ya está.
Menciona además como problema serio el sesgo.
En su actividad, indica que utiliza IA para avanzar rápido, pero el aspecto conceptual es suyo.
AUCH - Pablo Praino (Sociedad civil)
Complementa indicando que se debería ver la documentación del proceso. Los prompts sucesivos si hay relacionamiento con una herramienta como tal.
INAV – MEC - Maria Frick (Institución pública)
Siguiendo el diálogo, refiere a que el resultado también es muy pobre. Los guionistas trabajan con IA aumentan la productividad.
INMUS – MEC - Patricia Papasso (Institución pública)
Menciona, en el marco del intercambio, hasta dónde la IA es una herramienta y hasta dónde crea contenidos. Siempre hay una dimensión ética del uso.
Hoy no se puede discernir qué es y qué no es IA, y es allí donde se lleva al terreno de lo ético.
TUCE – FHCE - UdelaR - Felipe Correa (Academia)
Indica que en texto escrito no es tan fácil ni posible distinguir si un producto es generado por un ser humano o por IA. Si se quiere hacer algo que pueda identificar que fue hecho o no con IA, la idea de los ‘octógonos’ (analogía con las etiquetas referidas a excesos de sal, azúcar, etc. en los envases de los productos), quiere levantar el tema de la ética y el foco filosófico.
El tema es la finalidad de uso, el para qué se usó, y qué conciencia se tiene sobre qué se está haciendo cuando se usa IA. Es una herramienta estadística que produce promedios (para decirlo en forma sencilla) y si se suma el tema de ‘alucinaciones’, genera el problema en la credibilidad de lo que sea que se está presentando. Además, hay dificultad para entender y saber que es un promedio.
INAV – MEC - María Frick (Institución pública)
Menciona que hay iniciativas en el reglamento europeo de IA, hay obligatoriedad de incluir metadata o que se identifique como algo que emana de un sistema de IA, y también ya existen herramientas que desafían la interoperabilidad, siempre y cuando se hayan conservado las marcas de agua. Tomar como base la buena práctica y el reglamento de la UE. Sobre todo en la parte de e-fakes.
Obliga a los usuarios (destinatarios de despliegue) a los proveedores y también a quien genera la herramienta. Básicamente ver qué obligaciones están asociadas. Lo mismo que pasa con las redes sociales.
Agrega que estaría bueno visibilizar lo que se está haciendo en la UE, con el reglamento de servicios digitales y mercado único, que pone en tela de juicio las obligaciones que tienen las plataformas, las redes sociales, la moderación de contenido. Libertad de expresión versus controles de moderación de contenido.
Agrega que de las cosas que más complican es la autonomía de las personas, la manipulación cognitiva, que no tenemos ni idea como se está generando el hacking mental, y por eso de ahí lo que sucede con las redes sociales, combinado con IA, no se tiene ni idea qué pasa. Debe fomentarse la conciencia crítica. Hay que generar IA en otro tipo de inteligencia emocional, si no, nos convertimos en pueblos cada vez más ‘burros’.
No se desarrolla la parte cognitiva. Todo va tan rápido que con un prompt se generan cosas. Hay otro tipo de educación en paralelo que debe cambiar para tener personas pensantes y emocionalmente libres con conciencia del ser.
INMUS – MEC - Patricia Papasso (Institución pública)
Responde a la intervención anterior por el opuesto: identificar lo que fue generado en el 100% por la capacidad humana. Agrega que se le ‘pide’ condiciones éticas a las herramientas tecnológicas.
TUCE – FHCE - UdelaR - Felipe Correa (Academia)
Aclara que la marca de agua no es una marca visible. Puede ser metadata o puede ser el orden de determinados pixeles en la imagen u otra variante. Indica que es como la máquina enigma: aplica el detector e identifica el pixel.
Parte 2: Objetivos y líneas de acción
DINATEL – MIEM - Ramiro Pérez (Institución pública)
Señala como interesante el ejercicio que se realiza para actualizar la estrategia de IA para el Gobierno Digital (que es la estrategia vigente).
Enfocaría en el que es consumidor puro, el que es generador puro y en actividades creativas.
Oportunidades:
- IA hará que los productos generados sean cada vez más interesantes.
- las industrias creativas en sí la hacen cada vez más interesante
Desafío:
- cómo se protege a quien genera los contenidos audiovisuales. No inventar, hay normativa que se maneja a nivel internacional. La UE trabaja seriamente.
CURE – UdelaR - Pablo Boquete (Institución pública)
Indica con relación a las cosas que se plantean hoy: ¿qué vigencia tendrán en 5 años, (por ejemplo)?
La principal preocupación es qué estrategia se puede desarrollar para acompañar a los humanos de hoy en este proceso creativo, con fuerte foco en información, acceso a herramientas, vincularlas con sistemas de producción y generar el espacio para acompañar. Los humanos no aprendemos a la velocidad que aprende una máquina.
En el 2016 se discutía la llegada de las máquinas automáticas. Es todo muy rápido.
AUCH - Pablo Praino (Sociedad civil)
Resume en tema de oportunidades: educación, conciencia y crítica; regulación en lo que se pueda como algún tema análogo al “octógono” (ya referido); documentación en los procesos y uso, sobre todo en material y proyectos presentados a concursos; priorización del humano con su puesto como artista presupuestado.
También menciona la importancia de entender un flujo de trabajo y entender las disciplinas diferentes. Salen cosas buenas y comercializables.
CDU - Carlo Nicola (Sociedad civil)
Habla de las asimetrías y menciona el abrir un camino en paralelo. Lo que hay que entrenar no es a la IA sino a nosotros sobre qué hacer con esa herramienta.
Hasta donde sea posible limitar algo, si tiene sentido dar esa batalla, seamos nosotros los que tengamos el pensamiento crítico. Que pese lo ético.
EGEDA - Helena Nosei (Sociedad civil)
Trae una reflexión: “no se pueden poner puertas al campo”. IA es una herramienta poderosa. Ejemplifica diciendo que la energía nuclear mata, pero hay que tenerla en la medicina. Debe haber espacio para todo, lo que sí debe es blanquearse: qué está hecho con IA y qué no.
SIC – MEC - Natalia Ríos (Institución pública)
Señala que oportunidades y amenazas hay ‘millones’. En el plano del mundo de lo artístico puntualiza:
- generar masa crítica y más local: Uruguay, América del Sur, etc.
- deben existir espacios democráticos abiertos de discusión, con vinculación de otras disciplinas, que atraviese la educación.
- educación en estos temas en nivel de primaria o educación inicial hasta los últimos grados.
- que la IA no precarice aún más a los trabajadores de las industrias creativas. Muy poco legislado.
Balsa María – Abogada, consultora (Independiente)
Cuando se lee historia, el mundo siempre fue apocalíptico, siempre dio miedo. En este caso, personalmente cree, que el primer desafío es filosófico, que hay que pensar el rol de las artes, con pensamiento humanista.
Fortalecer los marcos legales existentes y perfeccionarlos. Derechos de autor, lo que ya existe, mejorarlo.
Conocimiento: generar conocimiento e información para pensamiento crítico de los creadores. Tener poder sobre la herramienta y no al revés. Que los consumidores tengan el conocimiento para identificar uno y otro.
INAV – MEC - Mercedes Bustelo (Institución pública)
Profundizar en algunas líneas de acción que ya se vienen dando o que ya existen, hay cosas que se dan de forma cíclica, que se dieron en otros contextos y en otras instancias. Insistir en generación de conocimiento y masa crítica con pensamiento crítico.
Investigación en laboratorio generando acceso. Se asume que todos acceden a IA y no todos acceden. El porcentaje es muy reducido. Desafío: cómo hacer que se achiquen las brechas.
INMUS – MEC - Patricia Papasso (Institución pública)
Señala la importancia de generar espacios de reflexión sobre ética de uso de las herramientas. Que el uso y la reflexión sobre el uso sean parte del mismo tejido y no que sean parte uno del otro. La ética debe estar permeando el uso mismo de la herramienta. La enseñanza y el abordaje deben estar tejiendo una red de pensamiento.
Por otro lado en particular desde la música, plantea la importancia que tiene la enseñanza y educación respecto a los derechos de autor. Hay muchos músicos con trayectoria que no saben definir que es derecho de autor y propiedad intelectual, de forma transversal como todos los derechos humanos y abordados en algún momento de la currícula de la formación pública de nuestro país.
TUCE – FHCE - UdelaR - Felipe Correa (Academia)
Plantea investigar qué tipo de formación se necesita para creadores y ciudadanos, usuarios y protección de datos. Declaración detallada de uso de IA.
Contrato de creadores que contemplen el permiso o prohibición de uso de IA.
Sistemas justos de regalías a creadores por uso de su obra por herramientas de IA. Ante un producto: ¿quién tiene la responsabilidad por plagio o cosas más funestas?
Oportunidad: como asistentes del trabajador que sea un asistente, que no precarice transformando algo hecho en su base con IA.
Balsa María – Abogada, consultora (Independiente)
Desafío: diálogo interdisciplinario. De qué forma trabajar en lo multidisciplinario. Investigar si hay formas de trabajar así, que las personas puedan hablar con quien estudia otra cosa.
CURE – UdelaR - Pablo Boquete (Academia)
Menciona la idea de organizar Hackatones para elaborar herramientas.
A largo plazo es la programación en la escuela. No solo para aprender el código sino aprender cómo pensar. Vincular a quienes tienen miradas distanciadas de la tecnología, que pueden salir varias cosas interesantes.
EGEDA - Helena Nosei (Sociedad civil)
Hace mención a Juan Grompone que como docente decía que “no venía a enseñar un lenguaje sino a pensar en forma organizada”. La base canónica de la resolución de problemas es una. Entiende que eso hay que enseñarles a los chicos, a pensar. No generar gente generalista.
INAV – MEC - María Frick (Institución pública)
Analizando objetivos y acciones, menciona que a nivel de educación de calidad una propuesta puede ser:
- gobierno: promover el uso responsable y ético, resolviendo las asimetrías, promover sandboxes regulatorios.
- industria: capacitación crítica en colaboración con instituciones académicas.
- academia: apoyando la capacitación.
- ciudadanía: fomentando los principios de transparencia y explicabilidad. Derecho de la ciudadanía a explicar y a ser explicado.
Agrega que la OEA plantea el trabajo con población vulnerable, se trabaja en una red interinstitucional e interdisciplinaria integrada por niños, niñas, adolescentes, padres, madres y tutores.
Combatir asimetrías por ejemplo padres e hijos. Conocer y entender los sesgos, los riesgos y los problemas que puede tener el uso de IA. Problema de las redes: cuanto más escándalo más consumo tiene el contenido, porque les interesa a quienes lo venden.
INMUS – MEC - Patricia Papasso (Institución pública)
Palabra clave: derechos humanos
Preocupación: se recarga a la educación con un problema que es del tejido social, que es más complejo. La educación formal no puede resolver todos los problemas que se están planteando. Entiende oportuno pensar en otros mecanismos que sean complementarios a la educación formal. Ejemplo: encarar con perspectiva social de encuentros en formato de talleres con los núcleos de referencia de niños y jóvenes a las que se integren adultos de su entorno sino los pares. Generar nuevos espacios alternativos a la educación formal que complementen la carencia a nivel social.
En un momento los espacios Ceibal estaban instalados en determinados espacios que trabajan con poblaciones vulnerables. Esa experiencia se ha ido retrayendo, se ha llevado a la educación formal y no a los espacios no formales de educación. Este enfoque tiene más que ver con formación en valores como ética, y eso no está pasando.
Balsa María – Abogada, consultora (Independiente)
Interesa que se promuevan instancias de diálogo multidisciplinario, para que los artistas se apropien "críticamente" de las tecnologías y se pueda promover la generación de contenidos que con asistencia de IA que permitan expresar la individualidad o la "impronta personal" y nuestra "identidad cultural".
TUCE – FHCE – UdelaR - Felipe Correa (Academia)
Instituir grupos de estudio acerca de qué necesidades de formación se tiene a nivel de esta disciplina, considerando que más importante que la herramienta es el marco en que se da el aprendizaje.
AUCH - Pablo Praino (Sociedad civil)
Ha investigado herramientas y en forma personal, está familiarizado con su uso y su potencial. Una de las cosas que se puede hacer, institucionalmente, desde marcos de políticas, leyes etc. es darle un lugar al artista que usa la IA donde se pueda mover sin temor a ser acusado de plagio por ejemplo. Tener un lugar legítimo para esa expresión, le parece válido y ayudaría a la transparencia.
También hay que proteger el otro camino más tradicional y análogo, que no permita ‘robar la plata’ haciendo uso de obras generadas por IA en esos espacios protegidos.
CURE – UdelaR - Pablo Boquete (Académica)
Entiende que se está hablando de casos de IA instalados en sistemas de producción tradicional. Hay que pensar el uso de la herramienta dentro del lenguaje de forma diferente. Es un camino que abre la tecnología. Solo se puede trabajar en lo interdisciplinar para producir cosas nuevas, y no más de lo mismo.
SIC – MEC - Natalia Ríos (Institución pública)
Menciona que la IA generativa homogeniza la producción y generación creativa y dejan detrás otras producciones tales como oficios manuales. Lo que crea la IA se parece entre sí mucho como está hoy, pero que en realidad quedan atrás otras expresiones. “Hay reflote de lo vintage”.
TUCE – FHCE – UdelaR - Felipe Correa (Academia)
Habrá una parte del mercado que será tomada por la IA. Ejemplifica con las novelas de romance. El ámbito de los escritores fantasmas se verá multiplicado. Por otra parte, indica que es un producto que la gente quiere. Habrá gente que vive de eso y quedará desplazada, enmarcado en el tema de la fotografía. El tema es cuando la sensibilidad creativa se ensambla con la industria.
Luego del intercambio, se realiza un resumen de acciones concretas a plantear en plenario:
- Formación en pensamiento computacional y código desde primaria (existen programas de Ceibal) la idea es curricularmente, sino también en pensamiento crítico como unidad que flexiona con las demás. Espacio específico dedicado a esto interactuando con otras áreas.
- Generar espacios no formales, interdisciplinarios, intergeneracionales, abiertos de creación de proyectos con objetivos específicos asociados a la temática en cuestión de la IA, con participación de múltiples actores y contribuyendo a la apropiación crítica (específicos para creadores de la industria) considerando el uso ético y responsable
- Generar un proceso de análisis de buenas prácticas normativas vigentes en diferentes partes del mundo de forma comparada para elaborar una base robusta para proteger a usuarios y creadores en Uruguay. Atención especial en normativa de la UE.
- Protección a usuarios y a consumidores de IA. Investigar, analizar y armar modelos de contratos de cesión o de venta para creadores.
- Instalar una ventanilla de asistencia legal para creativos y para el público en general sobre IA. Ejemplos: contratos, ventas usufructo, derechos de autor, etc. y otras para damnificados de fake news. que podría estar acompañada de campañas de difusión pública
- Problema: manipulación cognitiva de herramientas de IA, posibilidad de plagios involuntarios, declaración de uso de IA detallado en algunos productos de IA, remuneraciones a aquellos cuyos materiales se hayan utilizado en IA generativa, sino que haya formas más justas, transparencia de documentación de procesos.
- Fortalecer la autonomía.