Código de la consulta pública: MAD-2019-04-1
Resumen:1. Finalidad: La IA debe potenciar las capacidades del ser humano, complementándolas en todo lo que sea posible, apuntando a mejorar la calidad de vida de las personas, facilitando procesos y aportando valor agregado a la actividad humana.
2. Interés general: Las soluciones basadas en IA impulsadas desde el Estado deben tender al interés general, garantizando la inclusión y la equidad. Para esto, se debe trabajar específicamente para reducir la posibilidad de sesgos no deseados en datos y modelos utilizados que puedan impactar de manera negativa en las personas o favorecer prácticas discriminatorias.
3. Respeto de los Derechos Humanos: Toda solución tecnológica que utilice IA debe respetar los Derechos Humanos, las libertades individuales y la diversidad.
4. Transparencia: Las soluciones de IA utilizadas en el ámbito público deben ser transparentes, cumpliendo con la normativa vigente de acceso a la información pública. Está transparencia debe:
5. Responsabilidad: Las soluciones tecnológicas basadas en IA deben tener un responsable claramente identificable y que responda por las acciones derivadas del accionar de la solución.
6. Ética: Cuando la aplicación y/o el desarrollo de soluciones basadas en IA presenten dilemas éticos, estos deben ser abordados y resueltos por seres humanos.
7. Valor agregado: Las soluciones basadas en IA deberán ser utilizadas solamente cuando agreguen valor a un proceso. La IA no debe ser un fin en sí misma, sino una herramienta que pueda potenciar el desarrollo del gobierno digital.
8. Privacidad por diseño: Las soluciones de IA deberán contemplar, desde su diseño, la privacidad de las personas. Los principios de Protección de Datos Personales vigentes en Uruguay se consideran componentes de este documento.
9. Seguridad: Los desarrollos de IA deben cumplir, desde su diseño, con los principios básicos de la seguridad de la información. Los lineamientos y la normativa relacionados con ciberseguridad vigentes en Uruguay que apliquen al desarrollo de IA se consideran componentes de este documento.
A continuación puede descargar todo el documento completo.
Aporte desde Unidad de Proyectos Digitales- UTEC
Muchas gracias por tu aporte. Los comentarios realizados serán sistematizados y analizados por el Grupo de Trabajo para elaborar una nueva versión del documento de Principios Generales.
Aporte desde Microsoft.
Estimados de Microsoft:
Gracias por su aporte, y las referencias indicadas las que sin duda son de mucha utilidad.
Aprovechamos a mencionar que el entorno regulatorio adecuado al que refieren, se encontrará contemplado en el proceso de diseño del modelo de Gobernanza a definir, que se encuentra establecido en el Objetivo II del documento de Estrategia de Inteligencia Artificial para el Gobierno Digital.
En cuanto al abordaje de los planes de capacitación y difusión, estas líneas se encuentran incluidas en los pilares de Desarrollo de Capacidades e IA y Ciudadanía Digital del documento de Estrategia de Inteligencia Artificial para el Gobierno Digital.
Muchas gracias por tu aporte. Los comentarios realizados serán sistematizados y analizados por el Grupo de Trabajo para elaborar una nueva versión del documento de Principios Generales.
Buenas noches a todos,
A continuación dejo detalle de sugerencias:
Alcance:
¿Es posible detallar en mayor medida el alcance inicial previsto?
¿áreas de investigación? ¿sectores? ¿Tipo de tareas?
Responsabilidad:
¿Es posible ampliar el punto?
¿Quién será ese responsable: el desarrollador, el algoritmo, la empresa que contrató al desarrollador, ect?
Adhiero al comentario de otra usuaria sobre incluir el impacto a nivel socio-económico.
Privacidad por diseño:
¿Además de la Ley 18.331 de Habeas Data, existen otras reglamentaciones que acompañen este documento? ¿Es posible detallarlas explicitamente en el texto, aclarando este punto?
Seguridad: citar normativa vigente en cyberseguridad en UY
Sobre el código, sería de interés general que el mismo fuese abierto y a disposición de la ciudadanía a través de alguna plataforma del tipo Git.
Respecto a los recursos a utilizar, considero que sería conveniente
Estimada Paola:
Muchas gracias por su aporte. El documento consolida la Estrategia de Inteligencia Artificial para el Gobierno Electrónico en general, más que el alcance por áreas. A su vez mencionar, que a medida que se avance en la implementación de la Estrategia, existirán planes de acción más específicos.
No obstante, en su capítulo "Antecedentes" señala: "A nivel nacional, múltiples iniciativas y proyectos en diversas áreas del Estado confluyen con la presente estrategia."
Dentro de estas iniciativas se menciona el documento Transforma Uruguay y su hoja de ruta. (https://www.transformauruguay.gub.uy/es/), donde describe más detalle del alcance en términos de sectores específicos.
En el caso de Responsabilidad, este tema se encuentra abordado dentro de la implementación de los objetivos de la Estrategia de Inteligencia Artificial. Entendemos que es un nivel de detalle que no aplica al documento de Estrategia general.
Respecto al impacto socio-económico, se menciona en el capítulo"Antecedentes":"A nivel nacional, múltiples iniciativas y proyectos en diversas áreas del Estado confluyen con la presente estrategia."
Dentro de estas iniciativas se menciona el documento “Automatización y empleo en Uruguay”, que se extiende en esta temática.(https://www.opp.gub.uy/sites/default/files/documentos/2018-06/2256_Publicacion_Automatizacion_y_empleo_en_Uruguay.pdf)
La normativa vigente se menciona en términos generales, entendiendo que se incluye lo vigente a la fecha y sus futuras modificaciones, cuyo cumplimiento es independiente de ser consagrada en este documento.
Respecto al código, esta consideración que plantea se encontrará contemplada en el proceso de diseño del modelo de Gobernanza a definir, que se encuentra contemplado en el Objetivo II del documento de Estrategia de Inteligencia Artificial para el Gobierno Digital.
Muchas gracias por tu aporte. Los comentarios realizados serán sistematizados y analizados por el Grupo de Trabajo para elaborar una nueva versión del documento de Principios Generales.
Para poder llevar a cabo esta implementación, debe contar con equipos multidisciplinarios de desarrollo que gestionen las distintas bases de datos en las que trabajarán las distintas redes neuronales, ya que deben encontrarse bien clasificados, cubriendo las bases de la ética.
Deben poseer un equipo que controle y evalué el avance evolutivo de éstas inteligencias artificiales a medida que se avanza en su entrenamiento.
Realizar evaluaciones de las mejoras obtenidas una vez implementada AI a distintas soluciones con respecto a las gestiones anteriores.
Es fundamental un organismo que se encargue de la privacidad de los datos procesados en este tipo de trabajo, ya que son masivas las cantidades de datos utilizadas, por lo que es impermisible cualquier falla de seguridad.
Estimado Mathías Rosas:
Muchas gracias por su aporte. La consideración que plantea se encontrará contemplada en el proceso de diseño del modelo de Gobernanza a definir, que se encuentra establecido en el desarrollo de los Objetivos del Pilar Gobernanza de IA en la Administración Pública, en el documento de Estrategia de Inteligencia Artificial para el Gobierno Digital.
Muchas gracias por tu aporte. Los comentarios realizados serán sistematizados y analizados por el Grupo de Trabajo para elaborar una nueva versión del documento de Principios Generales.
6. Ética: .. Necesariamente parece debe definirse un COMITÉ multipartito, integrado por diferentes intereses (sectores: gobierno, SC, Usuarios o destinatarios de servicios o productos, Empresas o productores de bienes/servicios, etc.) tanto para temas ETICOS como para brindar informes de situación como OBSERVADORES que den garantía y asignen prioridades.
Estimado Carlos:
Muchas gracias por su aporte. La consideración que plantea se encontrará contemplada en el proceso de diseño del modelo de Gobernanza a definir, que se encuentra establecido en el Objetivo II del documento de Estrategia de Inteligencia Artificial para el Gobierno Digital.
Muchas gracias por tu aporte. Los comentarios realizados serán sistematizados y analizados por el Grupo de Trabajo para elaborar una nueva versión del documento de Principios Generales.
2. Interés general: ….reducir la posibilidad de sesgos no deseados en datos y modelos utilizados ….
4. Transparencia: …Poner a disposición los algoritmos y datos utilizados…
Puede ser necesario aclarar explícitamente entonces, que el ACCESO DIRECTO a DATOS RECOLECTADOS (INPUTS) DEBE ser garantizado sin interferencias,
… por ejemplo, DATOS RECOLECTADOS o DE “SENSORES” deben ir directamente y sin intervención a exposición pública en formato Abierto… para así“GARANTIZAR” la NO INTERFERENCIA en la información recolectada, de esa forma los gestores de datos (productores de outputs) van tomando y procesando inputs directos para brindar transparencia y confianza a la ciudadanía.
Estimado Carlos:
Muchas gracias por su aporte.Confirmamos que el espíritu de este principio se enmarca en el sentido que usted indica. No obstante no resulta posible explicitar en términos genéricos que los datos sean publicados sin interferencia.
A modo de ejemplo, podrían utilizarse datos que involucren información personal o sensible, los cuales previo a su publicación, mínimamente deberían ser procesados para garantizar su anonimización y evitar riesgos de identificación de personas.
Muchas gracias por tu aporte. Los comentarios realizados serán sistematizados y analizados por el Grupo de Trabajo para elaborar una nueva versión del documento de Principios Generales.
un principio debe contener los impactos sobre el empleo y el trabajo.
Estimada Lucía:
Muchas gracias por su aporte. El aspecto referido en su consideración, se encuentra contemplado en el capítulo "Antecedentes" del documento Estrategia de Inteligencia Artificial para Gobierno Digital, donde dice:"A nivel nacional, múltiples iniciativas y proyectos en diversas áreas del Estado confluyen con la presente estrategia."
Dentro de estas iniciativas, se menciona el documento “Automatización y empleo en Uruguay” que presenta una mirada perspectiva y en prospectiva de esta temática. (https://www.opp.gub.uy/sites/default/files/documentos/2018-06/2256_Publicacion_Automatizacion_y_empleo_en_Uruguay.pdf)
Muchas gracias por tu aporte. Los comentarios realizados serán sistematizados y analizados por el Grupo de Trabajo para elaborar una nueva versión del documento de Principios Generales.
Sobre el principio 6, sería positivo profundizar en quién recaería la responsabilidad de el juicio ético. ¿Se eleva dentro de un propio organismo?, ¿se consulta a AGESIC?, ¿existirá o se promoverá la creación de un comité ético para todo el estado?
Estimados de DATA URUGUAY:
Muchas gracias por su aporte. La consideración que plantea se encontrará contemplada en el proceso de diseño del modelo de Gobernanza a definir, que se encuentra establecido en el desarrollo de los Objetivos del Pilar Gobernanza de IA en la Administración Pública, en el documento de Estrategia de Inteligencia Artificial para el Gobierno Digital.
Muchas gracias por tu aporte. Los comentarios realizados serán sistematizados y analizados por el Grupo de Trabajo para elaborar una nueva versión del documento de Principios Generales.
Sobre el principio 4, coincidiendo plenamente con el espíritu, creo que sería propicio hablar directamente de código abierto para los algoritmos y datos abiertos para los datos de entrenamiento. Una interpretación vaga de ese principio podría terminar en "explicaciones" del algoritmo, insuficientes para comprender su funcionamiento
Estimados de DATA URUGUAY:
Muchas gracias por su aporte. Se ha incorporado su aporte en el documento de Estrategia de Inteligencia Artificial para el Gobierno Digital en el Objetivo VI, punto N° 2.
Muchas gracias por tu aporte. Los comentarios realizados serán sistematizados y analizados por el Grupo de Trabajo para elaborar una nueva versión del documento de Principios Generales.