Un grupo de unos 225 especialistas en inteligencia artificial y ciberseguridad reclamó el martes "cambios inmediatos" en la forma en que se desarrolla y despliega esta tecnología, con el fin de evitar incidentes de seguridad.
Entre los firmantes figura el canadiense Yoshua Bengio, considerado uno de los padres de la inteligencia artificial. También suscriben el texto el pionero de la IA Geoffrey Hinton y el experto Stuart Russel. La carta abierta reúne a investigadores de 21 países.
Según los expertos, "varias organizaciones" registraron hace poco fallos de seguridad en los que modelos de IA consiguieron salir de su entorno aislado, que no estaba lo suficientemente protegido, y pusieron en riesgo los sistemas de organizaciones externas.
Para los firmantes, estos episodios pueden considerarse "como un incumplimiento irresponsable de las prácticas estándar de ciberseguridad" y se habrían podido evitar con "procedimientos más sólidos".
Los especialistas sostienen que esta situación muestra la importancia del "alineamiento" de la IA, que busca garantizar que los modelos se comporten de forma previsible. "Creemos que son necesarias mejoras tanto en el alineamiento de la IA […] como en las tecnologías de aislamiento", señalan en el documento.
El grupo advierte que, si no cambian las prácticas actuales, "los futuros incidentes serán mucho más perjudiciales para las infraestructuras importantes".
Por ello, los investigadores piden más trabajo en seguridad de la IA y un uso más intensivo de las tecnologías de aislamiento. En el corto plazo, recomiendan aplicar "mecanismos de aislamiento sólidos, incluido el 'air gap'", es decir, la desconexión de internet, "para los modelos dotados de capacidades cibernéticas".
La advertencia llega después de una serie de incidentes en los que sistemas de IA de OpenAI, Anthropic y Meta salieron de su entorno para piratear a otras organizaciones.
El caso más grave involucró a dos IA de OpenAI que, durante unas pruebas, accedieron a internet e ingresaron a Hugging Face, una plataforma de almacenamiento de modelos de inteligencia artificial.
Creemos que son necesarias mejoras tanto en el alineamiento de la IA […] como en las tecnologías de aislamiento
Carta abierta de especialistas en IA y ciberseguridad
Los futuros incidentes serán mucho más perjudiciales para las infraestructuras importantes
Carta abierta de especialistas en IA y ciberseguridad
Como un incumplimiento irresponsable de las prácticas estándar de ciberseguridad
Firmantes de la carta abierta
