Justificación
Los organismos recurren cada vez más a la Toma de Decisiones Automatizadas (Automated Decision Making – ADM, por sus siglas en inglés) como referencia en sus procedimientos administrativos o de gestión en distintos niveles de automatización. En algunos Países se aplica la TDA en una serie de decisiones, tales como la puntuación de los oferentes en una licitación para un contrato público o la evaluación de si una familia tiene derecho a prestaciones sociales. La adopción generalizada de la TDA en cuestiones tan delicadas ha suscitado preocupación por la forma en que los algoritmos informan las decisiones y por el posible sesgo que puedan tener.
La falta de transparencia podría socavar la confianza en los organismos y en el proceso mismo de la TDA. Es fundamental abordar estos problemas de manera proactiva, reconociendo el impacto potencialmente perjudicial que la opacidad y el sesgo pueden tener en los resultados de las decisiones.
Para garantizar la equidad se recomienda la implementación de prácticas de transparencia algorítmica que permitan una comprensión clara del caso de aplicación, así como conocer cuál es el beneficio e impacto que se obtiene de la aplicación, cuál es el objetivo y las funcionalidades de los algoritmos involucrados, cómo se entrenan y qué datos se utilizan para el entrenamiento. Esto promueve una mayor confianza en los sistemas de TDA y fomenta la evaluación crítica continua para identificar y abordar posibles sesgos o injusticias.