UNIDIR advirtió en la ONU que la IA ya se usa en el campo de batalla y erosiona el juicio humano

El director del Instituto de las Naciones Unidas para la Investigación del Desarme (UNIDIR), Robin Geiss, advirtió este martes, en una conferencia de prensa en la sede de la ONU en Nueva York, que la inteligencia artificial ya se utiliza de forma generalizada en el campo de batalla y que el lugar del juicio humano en las operaciones militares se está reduciendo a toda velocidad. «¿Vamos a permitir que las máquinas apunten y maten a seres humanos?», preguntó el funcionario ante los periodistas, y sostuvo que la IA va camino a desplazar la toma de decisiones humana en el sector. Según describió Geiss, la tecnología ya cumple un número creciente de funciones militares: análisis de inteligencia, identificación de blancos, operaciones con drones y la coordinación de ciberataques. Ese avance, subrayó, se produce a costa del criterio humano, incluso en el ámbito nuclear. El resultado, dijo, es un ritmo de operaciones mucho más acelerado, con menos tiempo entre la identificación de un objetivo y el ataque, y la posibilidad de que una fuerza ataque en un mismo día una cantidad de blancos sin precedentes.

Ese corrimiento del juicio humano aparece en la exposición como el costo directo de la delegación de tareas: a medida que se les asignan más responsabilidades a los sistemas, la decisión humana pierde peso en la cadena. A eso se suma un problema de transparencia, porque buena parte de estos sistemas en desarrollo son opacos y, según el titular de UNIDIR, elevan el riesgo de error, de cálculo equivocado y, por lo tanto, de una escalada no deseada. La facilidad de uso creciente de estas herramientas también les abre la puerta a actores no estatales, que pueden encarar operaciones militares cada vez más sofisticadas. El material recibido no detalla qué motivó la convocatoria de la conferencia de prensa en Nueva York.

La advertencia retoma una línea que el secretario general de la ONU viene sosteniendo en reiteradas oportunidades: la de que no se cruce una «línea roja moral» en el uso militar de la inteligencia artificial, con llamados a una regulación más fuerte y a un tratado jurídicamente vinculante sobre sistemas de armas autónomas letales. Esas exhortaciones, dijo Geiss, encuentran cada vez más eco en la comunidad internacional. El propio director de UNIDIR reconoció que la competencia y las tensiones geopolíticas son «obstáculos serios» para regular la IA militar, aunque señaló que las preocupaciones por sus riesgos son compartidas más allá de la orientación política, incluso entre las grandes potencias. El ejemplo que dio fue la propuesta que Estados Unidos presentó en septiembre de un «mecanismo de notificación» en materia de IA con China, para que los dos países con mayor gasto militar del mundo puedan advertirse mutuamente sobre incidentes de IA que amenacen la seguridad nacional.

Sobre ese terreno, UNIDIR trabaja en lo que Geiss describió como los bloques de construcción necesarios para la cooperación multilateral. El jueves, el Centro de Excelencia en IA, Paz y Seguridad de UNIDIR lanzará un nuevo foro multiactor sobre IA en la paz y la seguridad internacionales y en el ámbito militar, el primero y hasta ahora único de ese tipo dentro del sistema de la ONU, según el funcionario. El trabajo se ordena en tres frentes: un marco para el comportamiento responsable de la industria, con guías prácticas y voluntarias para las empresas en las etapas de diseño y desarrollo de herramientas militares de IA; un «léxico de seguridad de la IA» que aclare conceptos como autonomía, seguridad o protección, hoy usados de manera muy distinta por cada actor, con una ambigüedad que dificulta la confianza y la cooperación; y el abordaje del riesgo de que grupos armados no estatales usen la IA para planificar, ejecutar y sostener logísticamente sus operaciones.

Robin Geiss, director del Instituto de las Naciones Unidas para la Investigación del Desarme (UNIDIR), fue el único orador citado. Planteó la disyuntiva de fondo con una pregunta —«¿vamos a permitir que las máquinas apunten y maten a seres humanos?»— y afirmó que la IA está «en camino de desplazar la toma de decisiones humana». Calificó a la competencia y las tensiones geopolíticas como «obstáculos serios» para regular el sector, y evaluó que los llamados del secretario general a favor de una regulación más estricta y de un tratado vinculante sobre armas autónomas letales «encuentran cada vez más eco en la comunidad internacional».