Amnistía Internacional publica una guía para investigar el uso abusivo de algoritmos por los Estados
Por Cecilia Remis
Amnistía Internacional lanza un conjunto de herramientas para la rendición de cuentas sobre el uso de algoritmos, una guía global para investigar y combatir el uso abusivo de algoritmos por parte de los Estados
El objetivo de empoderar a la sociedad civil y periodistas para descubrir y frenar sistemas automatizados que vulneran derechos humanos.
En un contexto de creciente digitalización de las funciones estatales, Amnistía Internacional ha publicado un detallado conjunto de herramientas destinado a cualquier persona u organización que busque investigar y denunciar el uso de sistemas algorítmicos y de inteligencia artificial (IA) por parte de gobiernos. El manual, fruto de la experiencia de su Laboratorio de Rendición de Cuentas sobre el Uso de Algoritmos, busca desvelar cómo estos sistemas pueden convertirse en vectores de discriminación y exclusión.
La guía, titulada «Conjunto de herramientas para la rendición de cuentas sobre el uso de algoritmos», subraya que, aunque los Estados adoptan estas tecnologías bajo premisas de eficiencia y ahorro, su implementación sin la supervisión adecuada está generando graves violaciones de derechos humanos. Entre los problemas documentados, la organización destaca:
• Exclusión social: Sistemas que deniegan erróneamente el acceso a prestaciones sociales o clasifican solicitudes de visado de manera sesgada.
• Discriminación sistémica: Herramientas que perpetúan desigualdades por motivos de raza, género o condición socioeconómica.
• Falta de recursos: Afectados que no pueden impugnar decisiones automatizadas que les perjudican.
• Represión: Uso de tecnologías de vigilancia masiva, como el reconocimiento facial, que afecta desproporcionadamente a comunidades marginadas y el derecho a la protesta.
El documento, de acceso libre, está diseñado específicamente para organizaciones de la sociedad civil, periodistas y grupos comunitarios. Su enfoque se estructura en cuatro pilares fundamentales para pasar de la denuncia a la acción efectiva:
1.- Derechos Humanos como brújula: La guía propone enmarcar los daños no solo como problemas éticos, sino como violaciones del Derecho Internacional de los Derechos Humanos (DIDH). Esto, argumenta, proporciona una base jurídica sólida y ya reconocida para exigir responsabilidades a los Estados y a las empresas privadas, basándose en los Principios Rectores de la ONU.
2.- El poder de las historias personales: Frente a investigaciones puramente técnicas, Amnistía enfatiza la necesidad de centrarse en los testimonios de las personas afectadas. «Con demasiada frecuencia, el trabajo de rendición de cuentas se ha centrado exclusivamente en los aspectos técnicos, dejando fuera las vivencias», señala el informe, advirtiendo contra el «extractivismo» de datos y abogando por un enfoque sensible al trauma.
3.- Un enfoque sociotécnico: La investigación no debe limitarse al código, sino analizar el «sistema» en su totalidad: los incentivos políticos, sociales y económicos que motivan su desarrollo y despliegue. Esto implica examinar las decisiones humanas, los contratos públicos y el contexto que rodea a la máquina.
4.- Glosario accesible: Para facilitar la comprensión, el toolkit incluye un glosario que define conceptos clave como «sesgo algorítmico», «algoritmos predictivos» o «sistemas de caja negra», haciendo la tecnología más comprensible para quienes no son expertos.
Con esta herramineta, Amnistía Internacional no solo ofrece una lupa para descubrir estos sistemas opacos, sino un martillo para impugnarlos a través de la investigación, la incidencia política y, potencialmente, los litigios, con el fin último de poner fin a aquellos que resultan abusivos.
⇒ Ver guía completa, clic aquí ⇐
Comparte, tus amig@s lo agradecerán…
Mastodon: @LQSomos@nobigtech.es; Friendica: Loquesomos;
UpScrolled: @LQSomos; Telegram: LoQueSomosWeb;
Bluesky: LQSomos; Twitter: @LQSomos;
Facebook: LoQueSomos; Instagram: LoQueSomos;
WhatsApp: LoQueSomos;
