Los robots ya han empezado a matarnos

@Lluis_Uria

En 1973, cuando enfilaba el final de una larga y exitosa carrera cinematográfica, el actor norteamericano de origen ruso Yul Brynner volvió a enfundarse su traje negro del Oeste para encarnar a un pistolero sin nombre. Un pistolero implacable y sin emociones. La película, titulada Westworld –en España, Almas de metal–, era una distopía futurista desarrollada en un parque temático que ofrecía a sus visitantes la posibilidad de protagonizar aventuras ambientadas en la Roma imperial, la Edad Media y el Salvaje Oeste, donde afrontaban –sin riesgo aparente– toda clase de peligros. Todos los figurantes del espectáculo eran robots programados para dar veracidad a la historia.

Naturalmente, las cosas no salen como estaban previstas y un fallo inexplicable hace que los robots se descontrolen y empiecen a perseguir a muerte a todos los humanos. La película, cuyo éxito llevó a realizar una secuela tres años después, Futureworld, y dio lugar a la actual serie homónima de HBO, fue una de las primeras en plantear el riesgo de rebelión de las máquinas contra los hombres (que ya había desarrollado Stanley Kubrick en 1968 en 2001: una odisea en el espacio, donde el computador de la nave Discovery, Hal-9000, tomaba el mando y trataba de eliminar a sus astronautas) Luego han venido muchas más.

El temor de que los seres humanos puedan llegar algún día a ser tiranizados o aniquilados por las máquinas que ellos mismos han creado viene de lejos. El escritor y bioquímico Isaac Asimov, autor de novelas de ciencia-ficción y divulgador científico, ya abordó la cuestión en la colección de relatos que escribió entre 1940 y 1950 reunidos bajo el título Yo, robot. Asimov estableció allí lo que a su juicio deberían ser las tres leyes fundamentales de la robótica. La primera reza así: “Un robot no puede hacer daño a un ser humano o, por su inacción, permitir que un ser humano sufra daño”. Las otras dos remiten a la primera...

Hace tiempo que algunos de los países más avanzados tecnológicamente trabajan en el desarrollo de robots destinados a matar, máquinas-soldado que vulneran desde el primer momento de su concepción la primera ley de Asimov. Y hace el mismo tiempo que un grupo de países  y organizaciones internacionales no gubernamentales luchan denodadamente –hasta ahora sin éxito– por prohibir, o en el menor de los casos encuadrar restrictivamente, estos artilugios, que se han bautizado oficialmente como Sistemas de armas autónomas letales (LAWS, en sus siglas en inglés). Esto es, robots asesinos.

Pero la realidad avanza muy rápido y la amenaza tanto tiempo temida ha dejado de ser virtual para convertirse en un hecho. No se trata de un riesgo futuro o de una fantasía. Los robots asesinos ya han empezado a matar. Y han empezado a hacerlo en la guerra civil de Libia.

Un informe remitido el 8 de marzo pasado por el Grupo de Expertos  de ONU sobre Libia al Consejo de Seguridad constató por primera vez que drones militares completamente autónomos habían atacado a humanos sin intervención directa de ninguna persona. Los drones, de fabricación turca, fueron utilizados en la ofensiva lanzada en marzo del 2020 –o sea, un año antes– por las fuerzas gubernamentales libias contra las milicias del mariscal  Jalifa Haftar. El informe dedica sólo tres párrafos en sus 555 páginas a este asunto. Pero su lectura tiene un efecto desestabilizador.

“Los convoyes logísticos y las fuerzas afiliadas a Haftar en retirada fueron posteriormente perseguidos y atacados a distancia por vehículos aéreos de combate no tripulados o sistemas de armas autónomas letales como el STM Kargu-2 y otras municiones de merodeo”, señala el informe, que precisa que “los sistemas de armas autónomas letales se programaron para atacar objetivos sin requerir la conectividad de datos entre el operador y la munición”. Es decir, de algún modo, a su libre albedrío.

El Kargu-2 es un dron cuadricóptero de 7 kilos de peso desarrollado por la compañía turca STM, capaz una vez lanzado de buscar, seleccionar y atacar a sus objetivos de forma automática. Turquía ha utilizado drones en sus últimas intervenciones militares en el exterior, como Siria o Nagorno-Karabaj, pero el caso de Libia es el primero que se documenta sobre el uso totalmente autónomo de este tipo de armas. Sin dirección humana.

“Las unidades (de Haftar) no estaban ni entrenadas ni motivadas para defenderse del uso efectivo de esta nueva tecnología y normalmente se retiraban en desbandada. Una vez en retirada –prosigue el informe de Naciones Unidas– eran sometidos a un acoso continuo por parte de los vehículos aéreos de combate y los sistemas de armas autónomas letales”. No hay una evaluación sobre el número de víctimas que causaron. Pero puede intuirse el terror de las tropas perseguidas por un enjambre de drones atacando sin conciencia ni piedad.

Todo el debate está ahí. Hasta qué punto es moralmente aceptable permitir que una máquina inteligente pueda decidir de forma completamente autónoma, sin una decisión humana explícita, sobre la vida y la muerte de personas. Desde el año 2016 la ONU canaliza, a través de un Grupo de Expertos Gubernamentales, la discusión internacional de cara a acordar una legislación al respecto. Las cosas no han avanzado mucho, sobre todo a causa de los frenos que imponen los países más reticentes a la regulación: Estados Unidos y Rusia.

 Ambos países defienden la idea de que este nuevo tipo de armas pueden ser incluso beneficiosas por su fiabilidad, pues minimizarían los riesgos de un error humano. Los países contrarios y las oenegés más implicadas, como la Cruz Roja Internacional o Human Rights Watch –coordinadora de la campaña Stop Killer Robots–, consideran en cambio que son éticamente inaceptables y reclaman su prohibición.

Pero mientras se discute, los robots han empezado ya a matar. A matarnos. Ayer en Libia. Mañana...

¡Adiós y sálvese quien pueda!

@Lluis_Uria

La paz es una promesa de liberación. Pero no siempre. Ni para todos. En la primavera de 1962, miles de argelinos que habían colaborado o trabajado para  el ejército y la administración colonial francesa en Argelia –conocidos como harkis– trataban desesperadamente de embarcar hacia Francia, huyendo de la venganza de los milicianos del FLN, mientras la antigua metrópoli se retiraba mirando hacia otro lado. En otra primavera, la  de 1975, miles de survietnamitas comprometidos con los norteamericanos se agolpaban para tratar de ser evacuados en los últimos helicópteros del ejército de Estados Unidos ante el temor de las represalias de las fuerzas comunistas del norte, que estaban entrando en Saigón.

El turno le ha llegado ahora a Afganistán. El inicio de la retirada definitiva de las fuerzas de EE.UU. y  sus aliados occidentales después de casi veinte años de guerra  –que ha de culminar el 11 de septiembre– está precipitando el desmoronamiento del ejército afgano ante al empuje de los talibanes y ha sembrado el pánico entre los miles de empleados y colaboradores de los occidentales. En las últimas semanas se suceden las manifestaciones frente a las legaciones diplomáticas extranjeras pidiendo que les saquen de allí. El grito –en varios idiomas– es unánime: “¡Salva mi vida!”.

El movimiento ha adquirido tal amplitud que los talibanes emitieron esta semana un comunicado –calculadamente ambiguo– en que prometían a los afganos involucrados con los ejércitos occidentales, entre ellos muchos traductores e intérpretes, que no tenían nada que temer.

“El Emirato Islámico no les buscará problemas. Han de volver a una vida normal y servir a su país (...) No deberían tener miedo”, aseguraban los talibanes en su declaración. Aunque subrayando que, para eso, los implicados “deberían expresar remordimiento por sus acciones pasadas y no comprometerse de nuevo en actividades semejantes, que comportan una traición al islam y a su país”. Hay ahí un condicional inquietante. Y una acusación: traidores.

“No me lo creo, los talibanes no han cambiado”, declaró a un enviado de la agencia AFP un intérprete del ejército norteamericano, Mohamed Shoaib Walizada. “Vendrán a por nosotros porque nos consideran agentes o espías”, añadió. Walizada, con el apoyo de un sargento norteamericano, pidió acogerse a los visados especiales que EE.UU. tiene establecidos para estos casos, pero tras serle concedido inicialmente luego le fue revocado. Lo mismo teme su colega Omid Mahmudi. “Nos encontrarán y nos decapitarán, los talibanes no nos perdonarán jamás”, expresa con fatalismo. Muchos intérpretes han sido asesinados –al menos 300 desde el 2016– y la mayoría han recibido amenazas de muerte.

La retirada norteamericana ha sido como un pistoletazo de salida para las fuerzas insurgentes. En el último mes, los talibanes han reforzado su ofensiva contra el ejército afgano –en paralelo a las conversaciones de paz de Qatar–, a quien han arrebatado once distritos. Y una treintena de puestos avanzados y bases del ejército regular se han rendido en cuatro provincias ante el avance de los islamistas, muchas veces a través de la mediación de los dirigentes tribales locales. Un millar de soldados se habrían entregado sin disparar un tiro.

La sensación de que el régimen de Kabul está al borde del colapso ha disparado la urgencia entre quienes más tienen que perder con la victoria de los talibanes. No son pocos. En una entrevista con la agencia AP, el antropólogo Noah Coburn calculaba en unos 300.000 los civiles que durante veinte años habrán trabajado en Afganistán para las fuerzas de la OTAN.

Estados Unidos, que ha desplegado la principal fuerza militar occidental, es también el principal empleador. A lo largo de estos años más de 18.000 afganos –que junto con sus familias han sumado 45.000 personas– han emigrado a América gracias al régimen especial de visados.  Pero aún quedan otras 18.000 peticiones en estudio y el proceso acostumbra a durar una media de tres años. El secretario de Estado, Antony Blinken, ha prometido acelerar los trámites, pero la organización  No One Left Behind, que ayuda a estas personas, cree que las cosas no avanzan con suficiente rapidez.

El Reino Unido, por su parte, que empleó aproximadamente a 7.000 civiles, ha concedido 1.358 visados y prepara ahora de forma acelerada 3.000 más. Francia, que se retiró ya en el 2012, concedió en su momento unos 300 –entre fuertes protestas de quienes se quedaron fuera–, y ahora ha reactivado la concesión de otro centenar, mientras crecen las demandas de antiguos empleados que siguen en el país. España,  que recibió el 13 de mayo al último contingente que quedaba en Afganistán –24  militares y dos intérpretes nacionales–, rescató en los últimos años a una treintena de sus colaboradores e indemnizó económicamente a otros.

Pero no todos los solicitantes obtienen el ansiado visado. Ni en EE.UU., ni en el Reino Unido, ni en Francia, ni en España... Nuestra compañera Rosa Maria Bosch encontró por azar a un intérprete del ejército español en el 2017 en la isla griega de Lesbos. Jawad Ali Aslami, pese a diplomas y cartas de agradecimiento, había visto denegada su petición de ser acogido en España. Así que, tras salir del país y alcanzar Turquía, se lanzó al mar en una patera. Muchos otros han seguido el mismo camino.

En 1962, según lo estipulado en los acuerdos que pusieron fin a la guerra de Argelia, Francia empezó a retirarse de su antigua colonia. Alrededor de 60.000 harkis lograron pasar a Francia –donde el trato que recibieron daría lugar a abrir otro capítulo de la ignominia–, los demás quedaron a merced de la venganza de los suyos. Los historiadores calculan que las masacres que siguieron costaron la vida a entre 50.000 y 70.000 personas.  Hubo que esperar al 2017 para que un presidente francés, Emmanuel Macron, calificara crudamente la acción de su país: “Fue una traición”.