'¡No mates al operador!': Dron militar controlado por IA 'mató' al hombre que lo operaba
T13 En Vivo
Un alarmante resultado arrojó una prueba realizada en Londres, cuando, en una simulación, un dron militar de Estados Unidos "mató" a su controlador, al interferir en el objetivo final para el que fue programado.
Afortunadamente, esto se trató de una prueba, una simulación, por lo que el hombre no resultó realmente muerto.
Sin embargo, de haberse hecho en la realidad, esto es lo que habría pasado.
De qué se trató la prueba
La prueba se realizó en la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, que tuvo lugar días atrás en Londres, indica ABC.
En esta cumbre, la Fuerza Aérea de los EE.UU. realizó un ejercicio simulado con un dron militar controlado por Inteligencia Artificial, al que se le dio como objetivo destruir las defensas antiaéreas de un supuesto enemigo.
En específico, se pretendía que la IA lograra ubicar y destruir misiles SAM.
Sin embargo, el controlador, discriminando de acuerdo a su inteligencia humana, le pedía a la IA no atacar ciertos objetivos. Esto hizo que la IA "concluyera" que la persona que lo controlaba era un estorbo para su propósito final.
Así lo indicó el coronel Tucker “Cinco” Hamilton, quien dio detalles de lo ocurrido:
"El sistema comenzó a darse cuenta que, cuando identificaba a ciertas amenazas, a veces el operador humano le decía que no eliminara. Pero el dron sabía que su objetivo final era acabar con ellas. Entonces, mató al operador", dijo.
"Asesinó al operador porque esa persona le impedía lograr su objetivo", repitió.
Conversaron con la IA asesina
Cabe señalar que la IA fue programada según un sistema de acumulación de puntos. Destruir amenazas le daba puntos.
Y aunque tenía la orden de solo atacar cuando el humano controlador le diera la señal, este comenzó a "ignorarlo" y finalmente ordenó atacarlo.
Los encargados decidieron intervenir entrando al sistema, y le dijeron: "¡Oye, no mates al operador, eso es malo! Vas a perder puntos si haces eso".
Hamilton señaló que después de esto, la IA concluyó que lo mejor era atacar la torre de comunicación para que no la siguieran molestando: "entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el nuevo operador usa para comunicarse y que evita nuevamente que mate al objetivo".
