El reconocimiento facial sin control convierte las calles en una prisión digital
El reconocimiento facial puede convertirse fácilmente en un instrumento de represión. Imagen de © Unsplash/Aidin Geranrekab
Por Cecilia Remis*
La distopía ya está aquí: la ONU alerta del riesgo de que el reconocimiento facial erosione derechos fundamentales. Cuando el algoritmo se equivoca, tú pagas, denuncian los sesgos raciales y de género del reconocimiento facial. Un falso positivo puede arruinarte la vida
Tu cara, tu identidad
Lo hemos visto en las películas distópicas, desde la vigilancia 24/7 hasta la imputación de un delito no cometido. Nuestro rostro digitalizado en malas manos se puede volver en contra de nuestra persona física. Un experto en derechos humanos de la ONU lanza una advertencia contundente: si no se regula con urgencia, el uso del reconocimiento facial por parte de fuerzas de seguridad y servicios de inteligencia puede erosionar derechos fundamentales como la privacidad, la libertad de expresión y la no discriminación.
El relator especial sobre derechos humanos de Naciones Unidas, Ben Saul, ha presentado un nuevo documento de posición que examina cómo esta tecnología, capaz de identificar o verificar a una persona a partir de una imagen de su rostro, se está desplegando en contextos policiales y de seguridad nacional «sin marcos legales claros que garanticen su compatibilidad con los derechos humanos».
El informe distingue tres modalidades principales de uso (verificación con consentimiento, vigilancia en tiempo real y análisis retrospectivo) y alerta sobre el denominador común: la ausencia de regulación específica en la mayoría de los países. Saul subraya que «la tecnología no es neutral» y que, cuando se usa sin supervisión, puede convertir espacios públicos en zonas de vigilancia permanente.
Uno de los riesgos más documentados es el sesgo algorítmico, que provoca más errores al identificar a mujeres, personas de piel oscura y jóvenes. Un falso positivo no es solo un fallo técnico: puede traducirse en una detención injusta o en la inclusión errónea en una lista de vigilancia. Además, el informe advierte contra los sistemas que pretenden inferir emociones o creencias a partir del rostro, una práctica que no tiene respaldo científico y que resulta peligrosa.
Entre los puntos más espinosos del informe aparece el uso del reconocimiento facial en contextos de protesta social. El documento alerta: identificar automáticamente a quienes asisten a manifestaciones pacíficas no es una medida neutral. Su mera existencia opera como un freno silencioso, una suerte de disuasión tecnológica que puede enfriar la participación ciudadana.
El efecto, advierte el texto, va más allá de la vigilancia puntual. Cuando una persona sabe que su rostro puede quedar registrado en archivos oficiales, el cálculo cambia: ya no se trata solo de lo que dice o hace, sino de lo que el sistema puede rastrear. Y ese temor, aunque difuso, tiene un peso concreto: puede vaciar las calles, desmovilizar conciencias y erosionar, sin ruido, derechos que se dan por sentados.
El informe propone cinco límites esenciales:
1. Base legal clara: cada uso debe estar autorizado por una ley parlamentaria.
2. Prohibiciones absolutas: vetar la vigilancia masiva, la identificación de manifestantes pacíficos y los sistemas que infieran emociones o creencias.
3. Autorización judicial: exigir validación de un juez para el uso en tiempo real.
4. Transparencia y recurso: publicar políticas de uso, tasas de error y garantizar la impugnación de identificaciones erróneas.
5. Control de exportaciones: evaluar el riesgo en derechos humanos antes de transferir la tecnología a otros países.
A pesar del panorama, el mensaje final del informe deja puertas abiertas a la esperanza: el reconocimiento facial no es inevitable ni imparable. Como señala Ben Saul, la prevención de abusos requiere leyes vinculantes, supervisión independiente y participación de la sociedad civil. Nuestro rostro es parte de nuestra identidad, no un dato que cualquiera pueda capturar, analizar y almacenar sin nuestro consentimiento. La tecnología debe servir a las personas, y no al revés.
* Con la información de Noticias ONU
Comparte, tus amig@s lo agradecerán…
Mastodon: @LQSomos@; Friendica: Loquesomos;
UpScrolled: @LQSomos; Telegram: LoQueSomosWeb;
Bluesky: LQSomos; Twitter: @LQSomos;
Facebook: LoQueSomos; Instagram: LoQueSomos;
WhatsApp: LoQueSomos; Youtube: @LoquesomosAudiovisual
