Robots asesinos que toman decisiones propias

saul ameliach-Robots asesinos 3

Un robot asesino es una arma que al prescindir de la interfaz máquina/hombre, puede tomar decisiones en base a cálculos para logros de objetivos que pudieran ser inmorales hasta para un Hitler resucitado.

“Los humanos aún están al mando y continuarán estando en el control, y nos aseguraremos de que así siga siendo”. Esta poco feliz retórica fue usada recientemente por Amandeep Gill, el embajador de la India ante la Conferencia de Desarme de la ONU y quien días atrás participó en Ginebra en la reunión del Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomos Letales, una cumbre que goza de la antipatía de centenares de ONGs pacifistas.

Lo que para muchos podría ser un sarcasmo continuado en voz de Gill, en el mismo escenario dijo que “se han abordado los pros y los contras y se ha barajado una gama de opciones políticas, que van desde adoptar una declaración políticamente vinculante, un código de conducta, un mecanismo de revisión continuada de la tecnología y un instrumento legalmente vinculante”, todo esto haciendo referencia a una industria que de forma soterrada crece vital y destructiva como la raíz de un ficus.

 Las armas ya piensan solas

Segun numerosos expertos, los robots y sus avances en el ámbito de la inteligencia artificial ha permitido crear en poco tiempo armas.

Por ejemplo drones, capaces de operar de forma autónoma en el campo de batalla y de tomar decisiones por sí solos sin instrucciones humanas.

Muchas investigaciones y desarrollos se llevan a cabo de forma opaca y podemos citar a Fedor, un androide desarrollado en Rusia por la Fundación de Investigaciones Avanzadas en coordinación con la Corporación Espacial y Cohetes ‘Energia’ S.P.Korolev, con miras a transformarse en un tripulante de misiones espaciales, pero que ha demostrado su capacidad de disparar con precisión milimétrica armas de fuego haciendo uso de las dos manos, inclusive, ambas al mismo tiempo.

Final Experimental Demonstration Object Research (Fedor por sus siglas en inglés) es un androide capaz de elegir la solución óptima para los contratiempos que puedan surgir durante una misión espacial. Además, tiene la capacidad de conducir vehículos, manejar un taladro y otras herramientas eléctricas. El dilema está en, por qué le enseñaron a disparar.

Activistas por la paz se pronuncian

Una veintena de países ya ha pedido prohibir esos sistemas, mientras activistas de derechos humanos advierten de que al menos seis Estados están invirtiendo en este tipo de tecnología.

saul ameliach-robots asesinos 1

Uno de los tecnólogos que lleva la voz cantante en contra de los robots asesinos es Elon Reeve Musk, fundador de Tesla, un reconocido inventor, inversor y empresario sudafricano quien envió una carta a la reunión del Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomos Letales, que entre otras cosas cita:

“Las armas letales autónomas amenazan con convertirse en la tercera revolución en la guerra. Una vez desarrolladas, permitirán que los conflictos armados se luchen en una escala mayor que nunca”

Aunque no se tenga documentación de campo y confirmación editorial, este año entró a los campos de batalla donde luchan las fuerzas de EE.UU. el robot de guerra conocido como M240, desarrollado por las empresas HDT Robotics, iRobot, Northrop Grumman y QinetiQ.

Se trata de una pieza robótica armada con una ametralladora enfocada en asediar con fuego pesado a cualquier objetivo peligroso logrando movilidad en superficies muy accidentadas. Está diseñado para llevar más de 560 kilogramos de equipamiento y posee un motor diesel de 32 HP.

La guerra no es cosa de juegos

Sobre el uso de robots para la guerra desde hace rato nos está preparando la industria de los videojuegos. Basta con citar al menos a Robots War, una popular App que está en millones de teléfonos inteligentes con la que niños y adultos se divierten incursionando en escenarios bélicos donde los robots son la punta de lanza de ataques que muestran su versatilidad en las maniobras ofensivas, pero que ocultan una verdad que será inevitable de llegar a darse esta posibilidad en un teatro de operaciones real: La dimensión del daño colateral.

Otro ejemplo de la “creatividad armamentística” es el androide Kalashnikov, homónimo del más famoso fusil de asalto ruso. El robot de combate autónomo de Kalashnikov toma decisiones por su cuenta. Este androide que ha sido poco fotografiado y del que en ocasiones se ha sabido que Putin ha ido a visitar, está basado en una red neuronal para conseguir autonomía completa. Las redes neuronales imitan el funcionamiento del cerebro humano para tomar mejores decisiones, cuantos más datos obtienen y más pruebas intentan.

“Con este sistema autónomo, el “módulo de combate” es capaz de identificar objetivos y tomar decisiones por su cuenta; podría encontrar a combatientes enemigos y eliminarlos al momento, antes de que estos si quiera lo descubriesen”.

saul ameliach-robots asesinos 2

Esta es una cita de la propia empresa Kalashnikov, el grupo fabricante; que lleva el nombre del creador del famoso rifle que murió en 2013, empresa que sigue invirtiendo en la siguiente generación de armas que dominará el campo de batalla.

Hace menos de una década todos en la industria militar tenían la sensación de que las cosas en materia de desarrollo de un robots asesino iban demasiado rápido. Se estima que en 2015 cuando más de 1.000 expertos pidieron legislación contra robots soldado, se habló de que llegaría en años. Lo que no esperábamos es que fuese “en dos años”. Mientras tanto, la ONU aún está reuniéndose para decidir la cumbre que decidirá el encuentro para prohibir los robots soldados; y el resto de potencias ya está desarrollando y buscando sus propias alternativas.

Conclusiones para 2018 sobre los robots

Amandeep Gill, el embajador de la India ante la Conferencia de Desarme de la ONU, en contraposición con todos estos escenarios, quiere que en la próxima cita que se realice en 2018, de donde saldrán conclusiones y recomendaciones sobre el debate reciente en una nueva reunión más larga, de dos semanas, sobre los “robots asesinos”.

Pidió “no dramatizar este tema” o hablar de él con demasiadas emociones, ya que, resaltó, es una cuestión muy compleja en la que “los países parte de la Convención tienen que hacer su trabajo.

Donde hay armas todo romanticismo y honor se pierde. Isaac Asimov (20 de diciembre de 1919 – 6 de abril de 1992), un escritor y profesor de bioquímica en la facultad de Medicina de la Universidad de Boston de origen ruso, nacionalizado estadounidense, en una obra de ficción creó una pieza llamada “Las Tres Leyes de la Robótica”:

  • Ningún robot causará daño a un ser humano o permitirá, con su inacción, que un ser humano resulte dañado.
  • Todo robot obedecerá las órdenes recibidas de los seres humanos, excepto cuando esas órdenes puedan entrar en contradicción con la primera ley.
  • Todo robot debe proteger su propia existencia, siempre y cuando esta protección no entre en contradicción con la primera o la segunda ley.

La distancia entre la realidad y la literatura, para la mirada de los “perros de la guerra”, debe ser francamente ridícula.

Anuncios

2 comentarios en “Robots asesinos que toman decisiones propias

Deja un comentario