Agencia EFE
(I)
Los “robots asesinos”, armas capaces de decidir y ejecutar ataques sin intervención humana, son una realidad al alcance de varios gobiernos, pero el mundo sigue dividido sobre cómo responder.
La amenaza, que hasta hace poco sonaba casi a película futurista, lleva años discutiéndose en Naciones Unidas sin resultados tangibles pese a que la urgencia no hace más que crecer.
“Estas no son tecnologías del mañana, son posibles hoy, aunque resultan muy poco seguras”, explica Liz OSullivan, miembro de la Campaña Para Detener los Robots Asesinos.
Esta coalición de 130 organizaciones no gubernamentales, respaldadas hasta por 29 Estados, está promoviendo la negociación de un tratado internacional para prohibir este tipo de armamento.
Entre sus miembros figura la estadounidense Jody Williams, ganadora en 1997 del Nobel de la Paz por liderar una iniciativa parecida contra las minas terrestres que logró convencer a países de todo el mundo.
Para Williams, los “robots asesinos” son “inmorales” y tienen que ser prohibidos cuanto antes.
“Permitir que máquinas, en teoría a través de algoritmos, decidan qué es un objetivo y atacarlo es una de las enormes razones por las que consideramos que cruzan un rubicón”, explica la activista.
Un “robot asesino” no tiene por qué ser un humanoide de metal armado hasta los dientes como los que ha imaginado a menudo la ciencia ficción. De hecho, su apariencia puede ser la de un simple tanque, avión, barco o sistema de misiles.
La diferencia está en si opera de forma autónoma, tomando decisiones sin la participación directa de un humano. Los especialistas ven probable que la tecnología se incorpore en un primer momento a drones, pero que luego se extienda a otro tipo de vehículos.
Los especialistas ven probable que la tecnología se incorpore en un primer momento a drones, pero que luego se extienda a otro tipo de vehículos.
Dos obstáculos
Los intentos para frenar el desarrollo de este tipo de armamento se han encontrado hasta ahora con la oposición de grandes potencias que están invirtiendo en la tecnología. “El mayor obstáculo para negociar un tratado sobre robots asesinos son Estados Unidos y Rusia”, señala abiertamente la coordinadora de esta campaña, Mary Wareham.
Wareham defiende que “la gran mayoría de países” son favorables a legislar, pero están siendo frenados por las potencias militares.
Aunque son los ejemplos más claros, EE.UU. y Rusia no son los únicos que están apostando por el desarrollo de “robots asesinos”. China, Corea del Sur, Israel o el Reino Unido están trabajando también en este ámbito.
Los activistas, además, no descartan que otros países como Turquía e Irán puedan estar haciéndolo también. Según fuentes diplomáticas, las potencias, en general, no se oponen de forma explícita a un tratado, pero han ido retrasando y buscando rebajar la ambición de las posibles medidas.
¿Es muy tarde?
“Nunca es demasiado tarde para regular”, responde rápidamente Wareham, que subraya que lo que no quieren las ONG es esperar a que haya un número masivo de víctimas para que el público demande la prohibición de este armamento.
Por ello, poco a poco, están tratando de despertar el interés de la sociedad, recurriendo a herramientas como un dicharachero robot que pasean por el mundo para advertir sobre el peligro de sus parientes “asesinos”.
Los jóvenes resultan un público clave y comienzan a tener su voz, como mostró esta semana Mariana Sanz, una estudiante de la Universidad de los Andes en Bogotá, que intervino en un acto en Naciones Unidas para pedir apoyo a los Estados miembros.
“Resulta muy importante en este momento porque ya hay muchos países en proceso de desarrollo de estas máquinas, de estas armas, y viene con muchos problemas no solo éticos, legales, morales…”, explica.
“Uno que me preocupa un montón es quién toma la responsabilidad en caso de las consecuencias, que son víctimas”, apunta.
Activistas y expertos avisan, entre otras cosas, del riesgo de que con estas armas las guerras se conviertan en algo aún más habitual o de que un error de una computadora pueda desencadenar un conflicto imposible de detener.
Discusiones en la ONU
Gobiernos de todo el mundo comenzaron a debatir oficialmente en 2014 sobre los “robots asesinos”, unas discusiones que se celebran regularmente en Ginebra.
En las conversaciones se deben analizar, entre otras cosas, los límites legales y éticos, con una pregunta clave: debe un robot poder decidir sin intervención humana si es preciso matar a alguien?
La ONU lo tiene claro: “la perspectiva de máquinas con el criterio y el poder para acabar con vidas humanas es algo moralmente repugnante”, advirtió el jefe de la organización, António Guterres, a los líderes reunidos el pasado año en la Asamblea General.
Entre quienes defienden los avances en este ámbito hay quienes aseguran que estas tecnologías pueden reducir el número de errores y daños colaterales y, de hecho, proteger vidas.
Pero las máquinas tienen que aprender de alguien y ello amenaza con hacer que se repitan patrones que terminan por perjudicar siempre a los más vulnerables.
“Todos los modelos de inteligencia artificial están sesgados”, explica O’Sullivan, que recuerda que esos modelos tienden a ir contra quienes no participan en su creación, es decir, comunidades de color, mujeres o personas con discapacidades. O’Sullivan asegura que la tecnología para crear esas armas ya está disponible, y subraya que cualquiera que diga que puede producirlas de forma “segura” miente.
