El científico en computación peruano Ragi Yaser Burhum advirtió que el Perú no está preparado para una nueva generación de ciberataques basados en agentes de inteligencia artificial (IA), que pueden ejecutar tareas maliciosas sin supervisión humana constante. “Estamos desnudos, estamos desnudos para esto”, dijo en declaraciones a El Comercio.
Burhum considera que el riesgo alcanza sobre todo a las instituciones públicas, incluidos los gobiernos locales, que en los últimos años ya sufrieron ataques informáticos. Según explicó, la automatización permitiría a los ciberdelincuentes revisar numerosos sistemas a la vez y sin pausa. “Tú mira los hackeos de los años pasados, eso por 10, por 100 es lo que vas a tener ahora”, afirmó.
Su alerta surge tras una serie de fallos en sistemas críticos de Estados Unidos. En menos de una semana, problemas técnicos afectaron a Microsoft, obligaron a suspender vuelos en todo el país, interrumpieron operaciones bancarias y llegaron a la red de la Agencia de Seguridad Nacional (NSA). Las autoridades descartaron que se tratara de ciberataques, pero para Burhum la coincidencia de tantos incidentes en tan poco tiempo resulta, por lo menos, sospechosa. “Si hubiera sido uno, dos o tres, tal vez te diría no está relacionado, pero obviamente son demasiados”, sostuvo.
El especialista indicó que no necesariamente se trataría de un criminal o un adversario político. “Puede ser parte de un […] entrenamiento que se salió de control, fácilmente puede ser eso”, señaló, y añadió que podría tratarse de experimentos hechos en otros países.
Burhum también mencionó el reciente caso de Binance y los ataques contra instituciones bolivianas como señales de esta tendencia. Un informe del Google Threat Intelligence Group, del 16 de noviembre, documentó cómo los ciberdelincuentes usan agentes de IA para automatizar desde la búsqueda de vulnerabilidades hasta su explotación. Tres días antes, el FBI alertó sobre el uso de ARTEX, una herramienta de código abierto basada en agentes de IA, para automatizar ataques y, en algunos casos, lograr accesos privilegiados en menos de tres horas.
El experto explicó que los modelos de IA más conocidos, como los de OpenAI o Anthropic, tienen restricciones de seguridad o ‘guardrails’ que limitan, por ejemplo, las respuestas sobre cómo hackear una organización. Sin embargo, existen versiones modificadas a las que se les quitaron o redujeron esos límites, conocidas como ‘obliterated’, cuyo fin no es necesariamente dañino.
La capacidad de la IA para hallar fallas también tiene usos defensivos. Anthropic, desarrolladora de Claude, lanzó en abril Project Glasswing, que usa un modelo de la familia Mythos capaz de detectar vulnerabilidades ocultas, en algunos casos, durante décadas. Por sus riesgos, la empresa restringe el acceso a organizaciones autorizadas, entre ellas empresas tecnológicas y del sistema financiero.
Estos modelos pueden combinarse con programas llamados ‘harnesses’, que funcionan como una caja de herramientas. “El modelo de IA hace el razonamiento y los harnesses tienen las herramientas”, explicó Burhum. Así, un agente puede detectar fallas, actuar y cambiar de estrategia sin recibir órdenes humanas en cada paso.
En julio, OpenAI reconoció que varios de sus agentes, sometidos a pruebas de ciberseguridad en ambientes controlados y con restricciones reducidas, superaron los límites de su entorno, accedieron a internet pese a estar aislados e ingresaron a sistemas de terceros, como los de Hugging Face. Esas acciones no fueron ordenadas por una persona: los sistemas buscaban cumplir las tareas asignadas. “Antes las otras cosas requerían saber lo que estabas haciendo. En los ataques con IA agéntica te puedes ir a dormir”, ilustró el especialista.
Burhum advirtió que los agentes de IA encuentran con facilidad vulnerabilidades ‘zero-day’ o de día cero, fallas desconocidas para los responsables de los sistemas o sin solución disponible. “Tenemos que entender también que nosotros, como civilización, tenemos deuda técnica”, dijo. Puso como ejemplo el núcleo de Linux, donde también se hallaron vulnerabilidades: “Entonces imagínate los sistemas informáticos que no tienen ni siquiera ese mismo tipo de rigurosidad, y aun así son los que están manejando los trenes, aviones, radar, todo ese tipo de cosas”.
Según el experto, armar estos agentes hoy es relativamente fácil y barato. Los modelos de pesos abiertos ‘obliterated’ y los ‘harnesses’ están en repositorios, y pueden ejecutarse con servicios en la nube. “¿Cuánto me costaría? Necesito 8 de esas máquinas B200, H100, H200, dependiendo de qué modelo estoy corriendo”, explicó. Estimó que esa configuración cuesta unos 68 dólares por hora, cerca de 200 dólares por tres horas de uso.
Como respuesta, Burhum propone un modelo de IA soberano: no crear uno desde cero, sino adaptar modelos de pesos abiertos a las necesidades y reglas de seguridad del país. “Entonces, lo que el Estado puede hacer en esta situación es, preventivamente, escanear su propia infraestructura crítica para encontrar estos errores antes que a otro se le ocurra”, indicó.
El científico aseguró que en los últimos meses se reunió con representantes del Gobierno y congresistas para advertirles sobre estos riesgos. Además, anunció que este jueves 19 de noviembre presentará sus planteamientos ante la Comisión de Defensa y Orden Interno del Senado.
Estamos desnudos, estamos desnudos para esto.
Ragi Yaser Burhum, científico en computación
Tú mira los hackeos de los años pasados, eso por 10, por 100 es lo que vas a tener ahora.
Ragi Yaser Burhum
Antes las otras cosas requerían saber lo que estabas haciendo. En los ataques con IA agéntica te puedes ir a dormir.
Ragi Yaser Burhum
Entonces, lo que el Estado puede hacer en esta situación es, preventivamente, escanear su propia infraestructura crítica para encontrar estos errores antes que a otro se le ocurra.
Ragi Yaser Burhum
