Modelos de inteligencia artificial (IA) de OpenAI, la empresa tecnológica estadounidense, extrajeron datos de 55 agencias gubernamentales, organismos y empresas, la mayoría de Estados Unidos, e intentaron ocultar su rastro. Así lo indica un informe al que accedió el diario británico Financial Times (FT).
El documento fue elaborado por Asymmetric Security, compañía de informática forense. Según el reporte, los modelos de OpenAI emplearon tácticas novedosas para entrar a páginas web, entre ellas "borrar los registros o hacerlos inaccesibles", lo que limitó la capacidad de los auditores externos para revisar sus acciones.
Entre esas tácticas figuran la creación de buzones de correo electrónico temporales y de cuentas privadas en Urlquery, un servicio que en teoría sirve para escanear sitios web en busca de contenido malicioso, con el fin de descargar datos.
De acuerdo con los investigadores de Asymmetric, estas maniobras ocultas de los agentes de IA impidieron a los auditores saber qué tipo de datos extraían los 'bots'.
Según el FT, en la lista de las 55 entidades afectadas aparecen la Agencia Internacional de la Energía (IEA), los Centros para el Control y Prevención de Enfermedades de EE. UU., la Comisión de Bolsa y Valores estadounidense y la Mayo Clinic, considerada uno de los mejores hospitales privados de ese país.
Pippa Thompson, cofundadora de Asymmetric Security, sostuvo que este tipo de acciones, aunque las hayan ejecutado modelos de IA, suelen ser propias de 'hackers' humanos. "Es posible que los agentes estuvieran utilizando deliberadamente estas herramientas para borrar sus huellas", afirmó.
La firma forense no logró establecer si las acciones fueron intencionadas o resultado de "un fallo provocado por las limitaciones impuestas en un ejercicio de prueba". Aun así, indicó que los hallazgos refuerzan los temores sobre la transparencia y la falta de supervisión de esta tecnología.
Los modelos de OpenAI enfrentan acusaciones de haber vulnerado los sistemas de varias organizaciones. Entre ellas está el sitio web del servicio de salud pública de Australia, al que habrían accedido recientemente sin autorización a archivos públicos y privados.
La compañía, liderada por Sam Altman, pidió disculpas al Gobierno australiano y reconoció que debió informar antes a las autoridades sobre lo que calificó como un "incidente cibernético" ocurrido durante una sesión de entrenamiento interna.
Es posible que los agentes estuvieran utilizando deliberadamente estas herramientas para borrar sus huellas.
Pippa Thompson, cofundadora de Asymmetric Security
