Los avances de los drones de Ucrania podrían marcar el comienzo de los robots asesinos

KYIV, Ucrania (AP) — Los avances de los drones en Ucrania han acelerado una tendencia tecnológica largamente esperada que pronto podría traer el primer robot de combate completamente autónomo al campo de batalla, marcando el comienzo de una nueva era de guerra.

Cuanto más se prolongue la guerra, más probable es que se utilicen drones para identificar, seleccionar y atacar objetivos sin la ayuda de humanos, según analistas militares, combatientes e investigadores de inteligencia artificial.

Eso marcaría una revolución en la tecnología militar tan profunda como la introducción de la ametralladora. Ucrania ya tiene drones de ataque semiautónomos y armas contra drones equipados con IA. Rusia también afirma poseer un arma de inteligencia artificial, aunque las afirmaciones no han sido probadas. Pero no hay casos confirmados de un país que despliegue robots de combate que se maten por completo.

Los expertos dicen que puede ser solo cuestión de tiempo antes de que Rusia o Ucrania, o ambos, los desplieguen.

“Muchos estados están desarrollando esta tecnología”, dijo Zachary Kallenborn, analista de innovación de armas de la Universidad George Mason. “Obviamente, no es tan difícil”.

La sensación de inevitabilidad se extiende a los activistas, que han intentado durante años prohibir los drones asesinos, pero ahora creen que deberían conformarse con tratar de restringir el uso ofensivo de las armas.

El ministro de transformación digital de Ucrania, Mykhailo Fedorov, está de acuerdo en que los drones asesinos totalmente autónomos son “un próximo paso lógico e inevitable” en el desarrollo de armas. Dijo que Ucrania está haciendo “mucha investigación y desarrollo en esta dirección”.

“Creo que hay mucho potencial para esto en los próximos seis meses”, dijo Fedorov a The Associated Press en una entrevista reciente.

El teniente ucraniano Columna. Yaroslav Honchar, cofundador de Aerorozvidka, una organización sin fines de lucro dedicada a la innovación en drones de combate, dijo en una entrevista reciente cerca del frente que los combatientes de guerra humanos no pueden procesar información y tomar decisiones tan rápido como las máquinas.

Los líderes militares de Ucrania actualmente prohíben el uso de armas letales totalmente autónomas, aunque eso podría cambiar, dijo.

“Todavía no hemos cruzado esta línea, y digo ‘todavía’ porque no sé lo que depara el futuro”. dijo Honchar, cuyo grupo ha sido pionero en la innovación de drones en Ucrania, convirtiendo drones comerciales de bajo costo en armas letales.

Rusia podría obtener IA autónoma de Irán o de cualquier otro lugar. Los drones explosivos Shahed-136 de largo alcance suministrados por Irán han paralizado las plantas de energía ucranianas y aterrorizado a los civiles, pero no fue muy inteligente. Irán tiene otros drones en su arsenal emergente que, según dice, cuentan con IA.

Sin muchos problemas, Ucrania puede fabricar drones armados semiautónomos totalmente independientes para sobrevivir mejor a las interferencias en el campo de batalla, dice su fabricante occidental.

Esos drones incluyen el Switchblade 600 de fabricación estadounidense. y el compañero de guerra polaco, los cuales actualmente requieren que un ser humano seleccione objetivos en una transmisión de video en vivo. La IA hace el trabajo. Los drones, técnicamente conocidos como “municiones merodeadoras”, pueden flotar durante varios minutos sobre un objetivo, esperando un tiro limpio.

“La tecnología para lograr una misión completamente autónoma con Switchblade casi existe hoy”, dijo Wahid Nawabi, director ejecutivo de AeroVironment, su desarrollador. Eso requeriría un cambio de política, para eliminar al ser humano del circuito de toma de decisiones, que él estima que aún faltan tres años.

Los drones ahora pueden identificar objetivos como vehículos blindados utilizando imágenes catalogadas. Pero hay desacuerdo sobre si la tecnología es lo suficientemente confiable para garantizar que las máquinas no se estropeen y se lleven la vida de los no combatientes.

AP preguntó a los ministerios de defensa de Ucrania y Rusia si han usado armas autónomas de manera ofensiva y si estarían de acuerdo en no usarlas si la otra parte estuviera de acuerdo. Ni siquiera respondió.

Si ambos lados van al ataque con IA completa, podría no ser el primero.

Un informe de la ONU no concluyente Se ha sugerido que los robots asesinos hicieron su debut en el conflicto interno de Libia en 2020, cuando los drones Kargu-2 de fabricación turca en modo totalmente automático mataron a un número no especificado de combatientes.

Un portavoz de STM, el fabricante, dijo que el informe se basaba en información “especulativa, no verificada” y que “no debería tomarse en serio”. Le dijo a AP que el Kargu-2 no puede atacar a un objetivo hasta que el operador se lo ordene.

La IA totalmente autónoma ya está ayudando a defender Ucrania. Fortem Technologies, con sede en Utah, ha suministrado al ejército ucraniano sistemas de caza de drones que combinan pequeños radares y vehículos aéreos no tripulados, ambos impulsados ​​​​por IA. Los radares están diseñados para identificar drones enemigos, que luego los UAV desactivan disparándoles redes, todo sin ayuda humana.

El número de drones dotados de IA sigue creciendo. Israel los ha estado exportando durante décadas. Su arpía que mata el radar pueden flotar sobre el radar antiaéreo hasta nueve horas esperando que se enciendan.

Otros ejemplos incluyen el helicóptero armado no tripulado Blowfish-3 de Beijing.. Rusia está trabajando en un avión no tripulado de inteligencia artificial submarino con cabeza nuclear llamado Poseidón. Los holandeses están probando actualmente un robot terrestre con una ametralladora calibre .50.

Honchar cree que Rusia, cuyos ataques contra civiles ucranianos han mostrado poco respeto por el derecho internacional, ya habría utilizado drones autónomos asesinos si el Kremlin los tuviera.

“No creo que tengan ninguna duda”, coincidió Adam Bartosiewicz, vicepresidente de WB Group, que fabrica Warmate.

La IA es una prioridad para Rusia. El presidente Vladimir Putin dijo en 2017 que quien domine esa tecnología gobernará el mundo. En un discurso el 21 de diciembre, expresó su confianza en la capacidad de la industria armamentista rusa para integrar la IA en las máquinas de guerra, y enfatizó que “los sistemas de armas más efectivos son aquellos que funcionan de manera rápida y prácticamente en modo automático”.

Los funcionarios rusos ya afirman que su dron Lancet puede operar con total autonomía.

“No va a ser fácil saber si Rusia cruzará esa línea y cuándo”, dijo Gregory C. Allen, exdirector de estrategia y política. en el Centro Conjunto de Inteligencia Artificial del Pentágono.

La transición de un dron del pilotaje remoto a la plena autonomía puede ser imperceptible. Hasta ahora, los drones que funcionan en ambos modos funcionan mejor cuando los pilotea un humano, dijo Allen.

La tecnología no es particularmente complicada, dice el profesor de la Universidad de California-Berkeley, Stuart Russell, un destacado investigador de IA. A mediados de la década de 2010, los colegas que estudió acordaron que los estudiantes de posgrado podrían, en un término, crear un dron autónomo “capaz de encontrar y matar a un individuo, digamos, dentro de un edificio”, dijo.

Los esfuerzos por establecer normas internacionales para los drones militares hasta ahora han sido infructuosos. Nueve años de conversaciones informales de las Naciones Unidas en Ginebra han producido pocos avances, y las principales potencias, incluidos Estados Unidos y Rusia, se oponen a la prohibición. La última sesión, en diciembre, terminó sin una nueva ronda programada.

Los legisladores en Washington dicen que no aceptarán una prohibición porque no se puede confiar en que los rivales que desarrollan drones los usen éticamente.

Toby Walsh, un académico australiano que, como Russell, ha hecho campaña contra los robots asesinos, espera llegar a un consenso sobre algunos límites, incluida la prohibición de los sistemas que utilizan el reconocimiento facial y otros datos para identificar o atacar a personas o categorías de personas.

“Si no tenemos cuidado, pueden multiplicarse más fácilmente que las armas nucleares”, dijo Walsh, autor de “Máquinas que se comportan mal”. “Si puedes hacer que un robot mate a una persona, puedes hacer que mate a mil”.

A los científicos también les preocupa que los terroristas reutilicen las armas de IA. En un escenario temido, el ejército de EE. UU. gastaría cientos de millones en escribir código para drones asesinos. Luego es robado y copiado, dando efectivamente a los terroristas la misma arma.

Hasta ahora, el Pentágono no ha definido claramente “un arma autónoma impulsada por IA” ni ha autorizado una sola arma para que la usen las tropas estadounidenses. dijo Allen, el ex funcionario del Departamento de Defensa. Cualquier sistema propuesto debe ser aprobado por el presidente del Estado Mayor Conjunto y dos subsecretarios.

Eso no impide que se desarrollen armas por completo. Los proyectos de EE. UU. se llevan a cabo en la Agencia de Proyectos de Investigación Avanzada de Defensalaboratorios militares, instituciones académicas y el sector privado.

El Pentágono ha enfatizado el uso de la IA para aumentar los combatientes humanos. La Fuerza Aérea está estudiando formas de emparejar pilotos con pilotos de drones. Un defensor de la idea, el exsecretario adjunto de Defensa Robert O. Work, dijo en un informe el mes pasado que “sería una locura no ir a un sistema autónomo” una vez que los sistemas habilitados para IA superen a los humanos, un umbral que dijo que se cruzó en 2015, cuando la visión artificial superó a la humana.

Las personas son expulsadas de algunos sistemas de defensa. El escudo antimisiles Cúpula de Hierro de Israel está autorizado para disparar automáticamente, aunque se dice que es monitoreado por un ser humano que puede intervenir si el sistema rastrea el objetivo equivocado.

Muchos países y todas las ramas de las fuerzas armadas estadounidenses, está desarrollando drones que pueden atacar en enjambres mortales sincronizados, según Kallenborn, el investigador de George Mason.

Entonces, ¿serán las guerras del futuro una batalla hasta el último dron?

Eso es lo que predijo Putin en una charla televisada de 2017 con estudiantes de ingeniería: “Cuando los drones de un partido son destruidos por los drones de otro, no tiene más remedio que rendirse”.

___

Frank Bajak informa desde Boston. Los reporteros de Associated Press Tara Copp en Washington, Garance Burke en San Francisco y Suzan Fraser en Turquía contribuyeron a este despacho.

___

Siga la cobertura de AP de la guerra en https://apnews.com/hub/russia-ukraine

___

Esta historia se ha actualizado para corregir cuando se publicó el informe de la ONU. Salió en 2021, no el año pasado.