El jefe de derechos humanos de la ONU advirtió que "se acaba el tiempo" para regular la inteligencia artificial

El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió este lunes que al mundo "se le está acabando el tiempo" para poner límites a la inteligencia artificial y describió una "carrera despiadada" entre empresas y países que ya enciende alarmas sobre la seguridad humana y hasta sobre la supervivencia de la humanidad. Lo dijo al intervenir en la Cumbre de Inteligencia Artificial y Derechos Humanos que se celebró en Oxford, Reino Unido, donde reconoció que la tecnología puede traer avances deslumbrantes en ciencia, salud, educación —y en el propio trabajo por los derechos humanos—, pero advirtió que sus herramientas están siendo construidas y controladas por unos pocos, sin supervisión pública, y ya hacen cosas que sus propios creadores no pueden predecir ni manejar del todo. Türk sostuvo que la IA puede socavar la igualdad, la libertad, la privacidad y el debate público de maneras sutiles, "dejando que la distopía se cuele sin que se note". Poblaciones enteras podrían quedar aisladas de las comunicaciones, el agua potable, la calefacción y los servicios financieros "con solo apretar un botón", alertó. Y pidió acciones urgentes para prohibir que las máquinas decidan quién vive y quién muere, al señalar que la inteligencia artificial ya está cambiando la cara de la guerra.

Detrás de esa advertencia hay un diagnóstico que el propio alto comisionado puso sobre la mesa: la IA avanza más rápido que las reglas llamadas a contenerla y su desarrollo quedó concentrado en un grupo reducido de actores que no rinden cuentas ante el público. Como muestra de los efectos que ya se discuten, citó estudios según los cuales los estudiantes que se apoyan en la IA retienen menos y piensan con menos independencia, y se preguntó si el mundo se encamina a un futuro en el que nadie pueda entender, cuestionar ni siquiera orientar la tecnología. De ahí su reclamo de salvaguardas obligatorias de derechos humanos y de procesos de diligencia debida en el desarrollo y el uso de la IA, ajustados a medida que la tecnología evoluciona. Los países que albergan empresas de IA, o que tienen influencia sobre sus cadenas de suministro, deben exigirles actuar con responsabilidad y hacerlas rendir cuentas cuando no lo hacen, planteó.

No es un planteo nuevo del alto comisionado: tres semanas antes les había escrito a los Estados y a las empresas de IA de frontera para pedirles actuar de inmediato y reducir riesgos. En la misma línea, celebró la creación del Diálogo Global sobre Gobernanza de la IA y del Panel Científico Internacional Independiente sobre IA —ambas iniciativas de Naciones Unidas—, así como un llamado conjunto a un control más estricto de los modelos de frontera que respaldan 29 Estados y la Unión Europea. También mencionó que la semana pasada los líderes de la industria dieron nuevos pasos en salvaguardas, autorregulación y evaluación de riesgos: según consignó la crónica de ONU News, se trató al parecer de una referencia al acuerdo voluntario firmado el 29 de septiembre en la Casa Blanca por el presidente Donald Trump y los responsables de seis empresas de IA, que no prevé penalizaciones para las firmas que lo ignoren y que Trump describió como "moralmente vinculante". Mientras Türk hablaba en Oxford, el Concejo de la ciudad de Nueva York —donde está el corazón financiero de Estados Unidos— realizaba una inusual sesión plenaria de todo el cuerpo (Committee of the Whole) para examinar los riesgos de la IA para los neoyorquinos, con 10 proyectos de ley a estudio para regular la inteligencia artificial en la ciudad más grande del país y con testimonios de Anthropic, OpenAI, Google y Meta.

De lo que ocurra con esas instancias depende, según el propio Türk, que las reglas lleguen a tiempo. El alto comisionado sostuvo que no todas las respuestas están en el derecho vigente y que algunas áreas van a necesitar enfoques legales nuevos, pero que actualizar las normas sobre responsabilidad, ciberseguridad y protección de datos puede ofrecer protección mientras tanto. También reclamó más colaboración en seguridad y monitoreo independiente dentro de la industria —"no en palabras, sino en la práctica"— y un papel mayor para la sociedad civil y para las personas cuyos derechos están en juego. "Ya no podemos darnos el lujo de esperar ni de confiar en la buena voluntad", dijo, y remató con una advertencia sobre el costo de la demora: "Todavía son pocos los que predican con el ejemplo". "Si no nos movemos rápido, corremos el riesgo de consecuencias imprevisibles, para nosotros y para las generaciones futuras".

La voz central de la jornada fue la de Volker Türk, alto comisionado de la ONU para los Derechos Humanos, que además de su discurso en Oxford ya había enviado cartas a los Estados y a las empresas de IA de frontera tres semanas antes. La otra declaración citada es la del presidente de Estados Unidos, Donald Trump, quien al firmar el acuerdo voluntario del 29 de septiembre lo describió como "moralmente vinculante". La crónica de ONU News menciona también la participación de Anthropic, OpenAI, Google y Meta en la audiencia del Concejo de la ciudad de Nueva York.