El uso de sistemas algorítmicos y análisis de datos por parte de instituciones públicas para respaldar decisiones importantes que afectan la vida de las personas plantea muchos desafíos a la gobernanza democrática y a la legitimidad de la toma de decisiones y la formulación de políticas gubernamentales. La falta de transparencia significativa y participación ciudadana en la forma en que se desarrollan, implementan y utilizan en general estos sistemas son factores clave que sustentan tales desafíos.
Sin embargo, las instituciones estatales en América Latina han implementado cada vez más sistemas de inteligencia artificial y de toma de decisiones automatizada (ADM) para desempeñar sus funciones en la aplicación de la ley, el bienestar social y otros campos gubernamentales sin salvaguardias legales, estructura institucional, evaluaciones de impacto y una supervisión significativa por parte de la sociedad.
Nuestro nuevo informe se basa en los Estándares Interamericanos de Derechos Humanos para extraer implicaciones y un marco operativo para su debida consideración en el uso estatal de IA y ADM. Profundizamos en documentos cruciales y casos judiciales del Sistema Interamericano de Derechos Humanos como base vital que guía las actividades de los Estados en las Américas. Recopilamos las principales normas y pasajes que hemos considerado en el Apéndice adjunto.
En esta página, puede acceder fácilmente a las implicaciones de los estándares interamericanos para el uso estatal de la IA y a nuestras recomendaciones y marco operativo para la aplicación de dichos estándares. También puede encontrar testimonios de nuestros aliados sobre cómo dichos hallazgos son relevantes para abordar los desafíos actuales que han enfrentado en los países de América Latina.
El informe completo está disponible en PDF.
Esperamos que pueda proporcionar directrices sólidas para el análisis de los Estados sobre si la implementación de sistemas algorítmicos es un medio adecuado para lograr objetivos políticos y cómo hacerlo. También esperamos que fortalezca la capacidad de la sociedad civil y los grupos afectados para reivindicar sus derechos en el contexto del uso gubernamental de la IA y unirse a los procesos de decisión y evaluación relacionados. Al fin y al cabo, la participación política también es un derecho que los Estados deben promover y respetar en el marco del Sistema Interamericano de Derechos Humanos.
