Uso responsable
La IA no es un fin en sí mismo, sino una capacidad estratégica que las organizaciones pueden desarrollar y madurar para lograr resultados específicos, medibles y transformadores. Una capacidad donde el trayecto desde proyectos piloto o planes a corto plazo a implementaciones a gran escala es una tarea que requiere una planificación sólida.
Esta planificación debe considerar diversos aspectos que impactan directamente en la implementación, en particular, todos aquellos relacionados a cómo se deben tratar, manipular y gestionar los datos. Es así que la estrategia de gestión de datos de la Administración Pública, su normativa existente sobre privacidad y protección de datos, su política de apertura y datos disponibles, así como la regulación relativa a la seguridad de la información, entre otras, estarán fuertemente ligadas al éxito del uso de IA en este ámbito. Por lo tanto, construir una Administración Pública basada en datos, donde estos sean considerados un activo crítico, es clave para el éxito de las iniciativas de IA, práctica que combina comprensión y habilidades de negocios y tecnología. Debido a la naturaleza compleja de la IA, las soluciones que utilizan esta tecnología pueden generar resultados imprevisibles o inesperados. Estos resultados pueden incluso parecer opacos debido a la dificultad para explicar los resultados obtenidos.
Si bien la transparencia es un elemento vital para la confianza, se presenta entonces un desafío que la Administración Pública deberá contemplar: establecer qué nivel de opacidad se estará dispuesto a abordar (e incluso en qué contextos) para poder aprovechar el potencial que ofrece la IA, ya sea utilizando soluciones de código abierto o incluso propietarias, siempre acordes a la normativa vigente.
En conjunto con el desarrollo de capacidades, todos los aspectos mencionados hacen que sea relevante implementar líneas de acción que fortalezcan el buen uso de la IA, a través de la generación de lineamientos técnicos, guías y buenas prácticas que puedan ser compartidos en la Administración Pública.
Para ello se definen los siguientes objetivos:
OBJETIVO V: Generar guías técnicas para el buen uso de IA en la Administración Pública
- Desarrollar guías técnicas para la selección de problemas, así como el diseño e implementación de soluciones basadas en IA. Estas guías deberán considerar, entre otros aspectos, la pertinencia del uso de servicios de IA en la nube, la identificación de las herramientas apropiadas para distintos casos de aplicación, protección y de privacidad de datos y el rol de quienes participan en los resultados.
- Fortalecer la integración, buena gestión y disponibilidad de datos de calidad en la AP, así como datos de privados de interés público, generando así los insumos necesarios para la generación de sistemas basados en IA de alta calidad y valor agregado. OBJETIVO VI: Fomentar la transparencia de los algoritmos
- Definir estándares, guías y recomendaciones para el análisis de impacto, seguimiento y auditoría de los algoritmos de toma de decisiones utilizados en la AP, así como para que puedan ser interpretados y explicados en todo momento.
- Establecer estándares y procedimientos para la difusión de los procesos utilizados para el desarrollo, entrenamiento y puesta en funcionamiento de algoritmos y sistemas de IA, así como los resultados obtenidos, promoviendo el uso de código y datos abiertos.
OBJETIVO VII: Diseñar planes de acción específicos en sectores estratégicos.
- Diseñar planes de acción específicos para fortalecer la utilización responsable de IA en sectores estratégicos definidos
- Implementar pruebas de concepto y pilotos en los sectores estratégicos definidos.