¿Crimen de guerra o eficiencia militar? ‘Lavender’: el algoritmo que convirtió a miles de palestinos en objetivos de guerra
En la imagen se muestra el ataque a Hadi Ali Mustafa, un miembro de Hamás, en el Líbano, el 13 de marzo de 2024. @FDIonline
Por Iñaki Alrui*
Una máquina analiza millones de datos, asigna una puntuación, marca a una persona como sospechosa y, minutos después, un misil impacta sobre su casa. No es ciencia ficción. Es ‘Lavender’, el sistema de inteligencia artificial que fue utilizado por el ejército israelí para generar decenas de miles de posibles objetivos durante la ofensiva sobre Gaza.
¿Cómo funciona este algoritmo,? ¿qué papel desempeñó la Unidad 8200? ¿qué era el sistema «Where’s Daddy?»? ¿por qué se aceptaban elevados niveles de víctimas civiles? Muchas preguntas, pocas respuestas ante una realidad brutalmente cruel e inhumana. La ciencia ficción del crimen ya es presente…
Para entender el funcionamiento de sistemas como Lavender, conviene aclarar primero qué son realmente. Un algoritmo es una lista de instrucciones paso a paso diseñadas para realizar una tarea específica o resolver un problema concreto. Pero que un algoritmo sea complejo o procese millones de datos en segundos no significa que estemos ante una mente artificial. Las inteligencias artificiales, a pesar del nombre, no son capaces de pensar ni de tener conciencia, ya que son máquinas desarrolladas para automatizar tareas que los humanos realizan con inteligencia a través de otros medios. Dicho de otro modo: detrás de cada decisión automatizada sigue habiendo decisiones humanas sobre qué datos se recogen, qué parámetros se priorizan y qué márgenes de error se toleran. El problema no es que la IA «decida» matar, sino que los seres humanos han diseñado un sistema que lo hace posible y han delegado en él la responsabilidad de señalar a quién bombardear.
La guerra en Gaza ha revelado una nueva y perturbadora frontera en el uso de la tecnología militar: la automatización de la selección de objetivos humanos. Bautizado como Lavender (lavanda), este sistema de inteligencia artificial (IA) se ha convertido en el centro de una controversia que cuestiona los límites éticos y legales de los conflictos modernos . Según la investigación periodística de los medios israelíes +972 Magazine y Local Call, complementada por The Guardian, Lavender marcó durante las primeras semanas de guerra a 37.000 palestinos como posibles objetivos, y se utilizó en al menos 15.000 asesinatos entre el 7 de octubre y el 24 de noviembre de 2023.
El sistema no solo identifica a supuestos militantes de Hamás o la Yihad Islámica, sino que también autoriza un alto número de bajas civiles como «daño colateral» aceptable. Entra dentro de los parámetros, por ejemplo, que por cada alto cargo muera un centenar de civiles en el bombardeo. Este enfoque, que trata la muerte de personas como meras estadísticas, ha sido calificado por expertos en derecho internacional como un posible crimen de guerra.
Cómo funciona la «máquina de matar»
Lavender procesa información recopilada de los más de 2,3 millones de residentes de Gaza, confirmando la tupida red de vigilancia digital a la que son sometidos. El algoritmo asigna a cada individuo una puntuación del 1 al 100, donde las calificaciones más altas indican una mayor probabilidad de pertenecer al brazo armado de Hamás. No existe la puntuación cero, lo que, según la investigadora Júlia Nueno, significa que «no hay posibilidad de inocencia».
El sistema se basa en patrones de comportamiento, como cambiar frecuentemente de teléfono o estar en grupos de mensajería con personas ya señaladas, lo que puede llevar a errores. Las fuentes consultadas por +972 Magazine aseguran que al menos el 10% de los individuos marcados como objetivo no lo eran. A pesar de este margen de error, los oficiales apenas dedicaban segundos a verificar las recomendaciones del algoritmo, presionados por la «eficiencia» y la necesidad de generar nuevos objetivos diariamente.
Complementando a Lavender, el ejército israelí utilizó otro sistema llamado «Where’s Daddy?» (¿Dónde está papá?). Este software rastreaba los movimientos de los individuos ya marcados y alertaba a los mandos cuando entraban en su casa, momento en el que se autorizaba el bombardeo. Esta práctica, que aumenta drásticamente las probabilidades de que el objetivo esté en su domicilio, también garantiza que mueran con él sus familiares y vecinos. El uso de este sistema, junto con la aceptación de un alto número de bajas civiles, ha llevado a organizaciones como la ONU a hablar de «domicidio» y crímenes contra la humanidad.
Expertos legales señalan que la combinación de estas herramientas viola los principios fundamentales del Derecho Internacional Humanitario, como la distinción entre civiles y combatientes y la proporcionalidad. La investigación publicada en la revista académica Israel Law Review argumenta que, aunque exista un «humano en el bucle», la forma en que se aplican las precauciones para verificar objetivos es insuficiente y no cumple con las obligaciones legales. Un estudio de la ACM Digital Library concluye que estos sistemas «no se ajustan a los requisitos del DIH por diseño» y que las bajas civiles masivas «han sido configuradas directamente en los sistemas».
El laboratorio palestino
El caso de Lavender no es un incidente aislado, sino la punta del iceberg de una estrategia donde Gaza y los territorios ocupados han servido como laboratorio para probar y comercializar tecnología militar. Las empresas israelíes, en colaboración con gigantes tecnológicos como Microsoft, Amazon o Google, han desarrollado y perfeccionado sistemas de vigilancia y ataque que luego se exportan al mundo con la etiqueta de «probados en combate».
El profesor Antony Loewenstein, autor del libro El laboratorio palestino, explica que Israel «necesita que el mundo legitime su ocupación y usa la tecnología para mantener esa ocupación como tarjeta de visita». La Unidad 8200, el departamento de inteligencia militar de Israel, ha sido el caldo de cultivo de estas innovaciones, creando un ecosistema donde la seguridad y la vigilancia se convierten en un negocio boyante.
El futuro de las guerras
La utilización de Lavender y sistemas similares plantea un escenario inquietante: ¿Estamos entrando en una era en la que los algoritmos no solo recomiendan vídeos, sino también personas a las que matar? Según el investigador Arthur Holland Michel, la novedad no es solo el uso de la IA, sino «la escala y la velocidad a la que se está utilizando». El hecho de que el tiempo entre la identificación de un objetivo y el ataque sea tan corto «indica que no hay demasiada investigación humana en el proceso», lo que desde un punto de vista jurídico es «problemático».
Mientras el mundo observa, la integración de la IA en el campo de batalla se acelera, con sistemas como Lavender, «The Gospel» y «Where’s Daddy?» estableciendo un peligroso precedente. La pregunta que queda en el aire, como se plantea la experta del SIPRI Marta Bo, es si la comunidad internacional será capaz de regular estas tecnologías antes de que se conviertan en la norma, o si, por el contrario, el laboratorio palestino se convertirá en el modelo para las guerras del futuro.
* Miembro de la Asamblea de Redacción de LQSomos.
Más artículos del autor
@InakiAlo
Comparte, tus amig@s lo agradecerán…
Mastodon: @LQSomos@; Friendica: Loquesomos;
UpScrolled: @LQSomos; Telegram: LoQueSomosWeb;
Bluesky: LQSomos; Facebook: LoQueSomos;
Instagram: LoQueSomos; WhatsApp: LoQueSomos;
Youtube: @LoquesomosAudiovisual
