En vivo Calmell del Solar en PBO Fernando Calmell del Solar
Lima
Martes 17 de noviembre
Perú Elige 2026 Resultados de la ONPE, sondeos y mapa interactivo
Economía

BANCOS Piden que un humano vigile siempre a la IA

El Consejo de Estabilidad Financiera instó a bancos y aseguradoras a que una persona supervise el uso de la inteligencia artificial para prevenir daños y facilitar su reparación. Sus 12 recomendaciones figuran en un informe que enviará a los países del G20.

Imagen referencial
Imagen referencial · Foto: craigmdennis / Flickr

El Consejo de Estabilidad Financiera pidió a bancos y aseguradoras que un ser humano supervise el uso de la inteligencia artificial (IA), con el fin de prevenir daños y facilitar su reparación cuando ocurran.

El organismo planteó 12 recomendaciones para aplicar la IA de forma responsable en el sector financiero. Estas forman parte de un informe que remitirá a los países del G20.

La banca emplea desde hace tiempo herramientas de IA para detectar fraudes y ataques, prevenir el lavado de dinero mediante la verificación de la identidad de los usuarios y analizar grandes volúmenes de datos antes de aprobar un préstamo. También las usa en la atención al cliente, con asistentes virtuales que resuelven dudas y gestionan cuentas.

En el caso de las aseguradoras, la tecnología acelera la revisión de reclamos y permite calcular daños mediante el reconocimiento de imágenes.

Sin embargo, el rápido avance de la IA generativa y de la IA con capacidades de agente ha generado temores, pues puede emplearse con fines maliciosos para multiplicar la frecuencia y el impacto del fraude y los ciberataques.

Un ejemplo de ataque directo es introducir datos o instrucciones erróneas para manipular el comportamiento del modelo y lograr que produzca resultados peligrosos, ilegales o no autorizados. Además, algunos modelos avanzados son capaces de identificar y explotar vulnerabilidades por su cuenta.

Por ello, el Consejo instó encarecidamente a los directorios y a la alta dirección de los bancos a tomar como referencia estas buenas prácticas. Las 12 recomendaciones se dividen en dos grupos: uno destaca la necesidad de una gobernanza de la IA en toda la organización y otro fija un marco para la gestión de riesgos.

Entre ellas figura implementar "una supervisión humana adecuada y eficaz", proporcional al riesgo, la autonomía y la complejidad de los modelos que se utilicen. Según el organismo, este control mejora la toma de decisiones, previene daños y facilita la reparación.

Quienes realicen esa supervisión deben contar con la capacidad, la autoridad y los incentivos suficientes para intervenir. Los bancos, a su vez, deben permitir que su personal evalúe los resultados de los sistemas de IA y entienda sus capacidades y limitaciones, además de evitar una dependencia excesiva y crear mecanismos para que la IA aprenda de las decisiones de supervisión.

El nivel de intervención variará según el caso. En algunas situaciones se requerirá aprobación humana para todas las decisiones de la IA, como la aprobación de un reclamo de seguro médico. En otras, las personas atenderán alertas generadas por el sistema o intervendrán solo cuando desconfíen de sus resultados.

Con la IA de actuación autónoma, el ser humano deberá mantener el mando mediante una supervisión de alto nivel. También se exigirá su intervención cuando un modelo de lenguaje de gran tamaño empiece a generar contenidos ofensivos, ilegales o inapropiados.

Los bancos reconocen que los agentes de IA no razonan como las personas y pueden interpretar objetivos predefinidos de formas inesperadas. En ciertos casos será necesario prohibirles acciones determinadas, como las que superen el apetito de riesgo de la entidad.

El Consejo recomienda entrenar y desplegar estos agentes en entornos seguros, por ejemplo aislados y sin conexión a la red, donde solo accedan a datos y herramientas descargados previamente. Si el aislamiento no es posible, cada banco debe restringir su capacidad de interactuar con sistemas, redes y otros agentes.

Las acciones y capacidades de los agentes también pueden cambiar con el tiempo, especialmente si obtienen acceso a nuevas herramientas o reciben nuevas instrucciones

Consejo de Estabilidad Financiera