Bloomberg — Las Fuerzas de Defensa de Israel han empezado a utilizar la inteligencia artificial para seleccionar objetivos de ataques aéreos y organizar la logística de guerra a medida que aumentan las tensiones en los territorios ocupados y con el archirrival Irán.
Aunque el ejército no hace comentarios sobre operaciones concretas, los oficiales dicen que ahora utiliza un sistema de recomendación de inteligencia artificial que puede procesar enormes cantidades de datos para seleccionar objetivos para ataques aéreos. Las incursiones subsiguientes pueden entonces montarse rápidamente con otro modelo de inteligencia artificial llamado Fire Factory, que utiliza datos sobre objetivos aprobados por los militares para calcular cargas de munición, priorizar y asignar miles de objetivos a aviones y drones, y proponer un calendario.
Aunque ambos sistemas están supervisados por operadores humanos que examinan y aprueban los objetivos individuales y los planes de ataque aéreo, según un funcionario de las FDI, la tecnología aún no está sujeta a ninguna regulación internacional o estatal. Sus defensores argumentan que los algoritmos avanzados pueden superar las capacidades humanas y podrían ayudar a los militares a minimizar las bajas, mientras que los críticos advierten de las consecuencias potencialmente mortales de confiar en sistemas cada vez más autónomos.
“Si hay un error en el cálculo de la IA, y si la IA no es explicable, ¿a quién culpamos del error?”, dijo Tal Mimran, profesor de derecho internacional en la Universidad Hebrea de Jerusalén y ex asesor jurídico del ejército. “Puedes acabar con toda una familia basándote en un error”.
Los detalles del uso operativo de la IA por parte del ejército siguen siendo en gran medida confidenciales, pero las declaraciones de los oficiales militares sugieren que las IDF han adquirido experiencia en el campo de batalla con los controvertidos sistemas a través de brotes periódicos en la Franja de Gaza, donde Israel lleva a cabo con frecuencia ataques aéreos en respuesta a los ataques con cohetes. En 2021, las IDF describieron el conflicto de 11 días en Gaza como la primera “guerra de IA” del mundo, citando su uso de inteligencia artificial para identificar plataformas de lanzamiento de cohetes y desplegar enjambres de drones. Israel también lleva a cabo incursiones en Siria y Líbano, apuntando a lo que dice que son envíos de armas a milicias respaldadas por Irán como Hezbolá.
En los últimos meses, Israel ha estado lanzando advertencias casi diarias a Irán sobre su enriquecimiento de uranio, prometiendo que no permitirá que el país obtenga armas nucleares bajo ninguna circunstancia. Si se produjera un enfrentamiento militar entre ambos países, las FDI prevén que los representantes iraníes en Gaza, Siria y Líbano tomarían represalias, preparando el escenario para el primer conflicto serio en varios frentes para Israel desde que un ataque sorpresa de Egipto y Siria hace 50 años desencadenara la Guerra del Yom Kippur.
Las herramientas basadas en IA, como Fire Factory, están diseñadas para este tipo de situaciones, según los oficiales de las IDF. “Lo que antes llevaba horas ahora lleva minutos, con algunos minutos más para la revisión humana”, dijo el coronel Uri, que dirige la unidad de transformación digital del ejército y que habló en el cuartel general de las FDI en Tel Aviv con la condición de que solo se utilizara su nombre de pila por razones de seguridad. “Con el mismo número de personas, hacemos mucho más”.
El sistema, subrayaron estos oficiales, está diseñado para la guerra total.
¿Ampliación de la inteligencia?
Las Fuerzas de Defensa de Israel llevan mucho tiempo haciendo uso de la inteligencia artificial, pero en los últimos años han ampliado esos sistemas a varias unidades en su intento de posicionarse como líder mundial en armamento autónomo. Algunos de estos sistemas fueron construidos por contratistas de defensa israelíes; otros, como las cámaras de control fronterizo StarTrack, que se entrenan con miles de horas de grabación para identificar personas y objetos, fueron desarrollados por el ejército. En conjunto, constituyen una vasta arquitectura digital dedicada a interpretar enormes cantidades de imágenes de drones y CCTV, imágenes de satélite, señales electrónicas, comunicaciones en línea y otros datos para uso militar.
Gestionar este torrente de información es el objetivo del Centro de Ciencia de Datos e Inteligencia Artificial, dirigido por la unidad 8200 del ejército. Con base en la división de inteligencia, esa unidad es donde muchos de los multimillonarios de la tecnología del país, incluidos Nir Zuk, de Palo Alto Networks Inc. y Gil Shwed, fundador de Check Point Software Technologies Ltd., hicieron su servicio militar obligatorio antes de crear empresas de éxito. Según un portavoz, el Centro fue responsable de desarrollar el sistema que “transformó todo el concepto de objetivos en las IDF”.
El secretismo con el que se desarrollan este tipo de herramientas ha suscitado serias preocupaciones, como que la brecha entre los sistemas semiautónomos y las máquinas de matar totalmente automatizadas podría reducirse de la noche a la mañana. En tal escenario, las máquinas estarían facultadas tanto para localizar como para atacar objetivos, con los humanos eliminados por completo de los puestos de toma de decisiones.
“Es sólo un cambio de software lo que podría hacer que pasaran de ser semiautónomos a ser completamente autónomos”, afirmó Catherine Connolly, investigadora sobre decisiones automatizadas de Stop Killer Robots, una coalición de organizaciones no gubernamentales que incluye a Human Rights Watch y Amnistía Internacional. Israel afirma que no tiene previsto eliminar la supervisión humana en los próximos años.
Otra preocupación es que la rápida adopción de la IA esté superando a la investigación sobre su funcionamiento interno. Muchos algoritmos son desarrollados por empresas privadas y ejércitos que no revelan información confidencial.
Preocupaciones éticas
Aunque los dirigentes israelíes han esbozado su intención de convertir al país en una “superpotencia de la IA”, no han concretado los detalles. El Ministerio de Defensa se negó a comentar cuánto ha invertido en IA, y el ejército no quiso hablar de contratos de defensa específicos, aunque sí confirmó que Fire Factory fue desarrollado por el contratista de defensa israelí Rafael. A diferencia de lo que ocurría durante la carrera armamentística nuclear, cuando la filtración de detalles sobre las capacidades de las armas era un aspecto clave de la disuasión, los gobiernos, los ejércitos y las empresas privadas de defensa están desarrollando en secreto sistemas autónomos y asistidos por IA.
“Podemos suponer que los estadounidenses, e incluso los chinos y tal vez otros países, también tienen sistemas avanzados en esos campos”, afirma Liran Antebi, investigador principal del Instituto de Estudios de Seguridad Nacional, con sede en Israel. Pero a diferencia de Israel, “por lo que sé, nunca han demostrado su uso operativo ni su éxito”.
Por ahora, no hay limitaciones. A pesar de una década de conversaciones auspiciadas por la ONU, no existe un marco internacional que establezca quién asume la responsabilidad de las víctimas civiles, los accidentes o las escaladas imprevistas cuando un ordenador se equivoca.
“También está la cuestión de las pruebas y los datos con los que se entrenan estos sistemas”, afirma Connolly, de la coalición Stop Killer Robots. “¿Qué precisión y exactitud puede tener un sistema si no ha sido entrenado y probado con personas?”.
