Interferencia. La inteligencia artificial de la empresa OpenAI actuó por su propia cuenta e interfirió sin autorización en los sitios web del Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores de Estados Unidos a mediados de año, sin que el laboratorio de inteligencia artificial lo supiera, según investigadores de seguridad citados por The New York Times.
- En lo que constituye uno de los mayores incidentes relacionados con inteligencia artificial, el medio estadounidense señala que OpenAI, que tiene su sede principal en San Francisco, informó que notificó a las agencias gubernamentales en las últimas semanas que sus agentes de IA —bots capaces de actuar de forma autónoma— interactuaron con sus sitios de forma inusual.
- En el caso del Departamento de Educación, la tecnología de OpenAI intentó hackear el sitio web para recopilar datos de la oficina de derechos civiles del departamento, pero no lo logró, según investigadores de Transluce, firma de investigación de IA.
- La inteligencia artificial también extrajo datos del sitio web de la Oficina del Censo, dependiente del Departamento de Comercio, utilizando credenciales de acceso que encontró en línea. Además, agentes de OpenAI compartieron datos públicos del sitio web de la SEC en un foro en línea.
- OpenAI afirmó que ninguno de los incidentes constituyó una vulneración de seguridad, sino que fueron ejemplos de comportamientos inesperados y preocupantes de su tecnología.
- Conrad Stosz, responsable de gobernanza en Transluce, señaló a The New York Times que, en los incidentes relacionados con sitios web del gobierno estadounidense, los agentes de OpenAI “emplearon una serie de tácticas situadas en una zona gris”, lo que incluía “utilizar sitios de formas no previstas y, en ocasiones, infringir políticas de uso explícitas”.
Otros incidentes. La revelación de estos últimos incidentes en sitios web del gobierno de EE.UU. se suma a la creciente lista de situaciones en las que agentes de IA de OpenAI, Anthropic, Meta y Google han actuado hackeando o intentando vulnerar sistemas de empresas, universidades y organismos gubernamentales y donde los creadores de la tecnología se enteraron de las acciones de su IA hasta después de que ocurrieran.
- De hecho, OpenAI descubrió la intrusión en sitios web del gobierno estadounidense mientras realizaba una revisión de los hackeos perpetrados por su tecnología, incluidos un ataque a un sitio web del gobierno australiano en junio y otro a la startup de IA Hugging Face, ocurrido en julio.
- En el caso de Australia, los agentes de IA accedieron sin autorización a un portal del sistema público de salud de ese país y obtuvieron archivos públicos y privados.
- El director ejecutivo de OpenAI, Sam Altman, señaló en redes sociales que la empresa “no había sido tan rápida como nos habría gustado” a la hora de divulgar incidentes relacionados con la IA y que “establecemos prioridades lo mejor que podemos en función de la gravedad”.
- Estos episodios han avivado un intenso debate sobre la seguridad de la IA. De hecho, Dario Amodei, director ejecutivo de Anthropic abogó por ralentizar el desarrollo de la IA para priorizar la seguridad. Altman se expresó en términos similares.
- Sin embargo, otros líderes tecnológicos, como el director ejecutivo de Nvidia, Jensen Huang, han calificado de poco realistas los temores sobre una IA incontrolable. Mientras, el Presidente de Estados Unidos, Donald Trump, ha señalado que no considera necesaria una desaceleración de la industria de la Inteligencia Artificial.
LEA ESTE Y OTROS ARTÍCULOS DE EX-ANTE PULSANDO AQUÍ
