IA: China advierte sobre un escenario apocalíptico al estilo “Terminator”
Imagen referencial de Pixabay
T13 En Vivo
La empresa de inteligencia artificial (IA) Anthropic, propietaria del agente conversacional Claude, se niega a permitir que el ejército estadounidense utilice su tecnología sin restricciones, en particular para la vigilancia masiva de la población o la automatización de ataques letales. En este momento de conflicto ético, el portavoz del Ministerio de Defensa chino, Jiang Bin, explica:
“Continuar sin límites con la militarización de la IA, utilizarla como instrumento para violar la soberanía de otras naciones, permitir que influya excesivamente en las decisiones bélicas y dejar que los algoritmos tengan poder de vida o muerte sobre los seres humanos, no solo socava los fundamentos éticos y las responsabilidades en tiempos de guerra, sino que también corre el riesgo de provocar una pérdida de control tecnológico”. Y concluye citando una famosa película de ciencia ficción de Hollywood: “Una distopía como la que se describe en la película estadounidense Terminator podría convertirse algún día en realidad”. La película Terminator, estrenada en 1984 y protagonizada por el actor Arnold Schwarzenegger, describe un futuro apocalíptico en el que Skynet, una IA estadounidense que gestiona las defensas estratégicas, se vuelve superinteligente y, temiendo que los humanos la desconecten, lanza un holocausto nuclear mundial el 29 de agosto de 1997 (Judgement Day – El día del juicio final), matando a miles de millones de personas.
"Es como una terapia": Usuarios encumbran "Pokémon Pokopia", la nueva joya de Nintendo
Anthropic se ha negado a levantar las restricciones de uso de su IA
¿Se está evitando este escenario en el que las máquinas toman el poder en Estados Unidos? Quizás el futuro lo dirá. Lo cierto es que, desde que la empresa Anthropic se negó a levantar las restricciones de uso de su IA, el Departamento de Defensa de los Estados Unidos la ha añadido a su lista de empresas que representan “un riesgo para la seguridad nacional en el suministro del Pentágono”. Esta inclusión obliga a todos los proveedores a prescindir inmediatamente de Anthropic y de su asistente de IA generativa Claude en el marco de sus servicios al departamento. Paradójicamente, Microsoft, en un documento judicial, advirtió que la aplicación inmediata de las sanciones del Gobierno estadounidense contra Anthropic podría “obstaculizar” el funcionamiento del ejército en plena guerra en Oriente Medio. Así, los modelos de IA de Anthropic son, en la actualidad, los únicos autorizados en el marco del tratamiento de información clasificada por el Pentágono. Según varios medios de comunicación, se utilizaron durante la preparación de la ofensiva estadounidense-israelí contra Irán.
“Las máquinas autónomas podrían iniciar una guerra de forma independiente”
En el mismo documento, Microsoft solicita una suspensión temporal de estas decisiones, para dar tiempo a ambas partes a negociar. “La IA no debería utilizarse para la vigilancia masiva ni poner al país en una situación en la que máquinas autónomas pudieran iniciar una guerra de forma independiente”, afirma la empresa. Esta advertencia se hace eco de la de Anthropic, que se niega a que sus modelos recopilen datos masivos sobre la población estadounidense o se automaticen para ataques mortales.
El número de usuarios de pago de la IA Claude se ha duplicado desde principios de año, según la empresa Anthropic. Su chatbot incluso ha alcanzado, por primera vez, el primer puesto en descargas en la Appstore. Según Anthropic, se descarga más de un millón de veces al día (entre Google Play y Appstore).
