Sarah Breeden, vicegobernadora de estabilidad financiera del Banco de Inglaterra, advirtió que los sistemas autónomos de inteligencia artificial representan una amenaza creciente para los mercados financieros, la ciberseguridad y la infraestructura de pagos, e instó a los bancos centrales de todo el mundo a buscar mejores regulaciones para el sector.
En su intervención en el foro anual del Banco Central Europeo en Sintra, Portugal, Breeden explicó que la IA agente está avanzando más rápido de lo que anticipaban los reguladores. Según sus comentarios, en 2019 la duración de las tareas de software que los principales modelos de IA podían completar se duplicaba cada siete meses. Sin embargo, para 2024, la duplicación se produciría cada cuatro meses.
Los avances en la detección de vulnerabilidades cibernéticas esta primavera sugieren que este ritmo puede haberse acelerado.
“Nos sorprendieron esta primavera y deberíamos estar preparados para más sorpresas tecnológicas”, dijo Breeden en el evento del 30 de junio.
De la generación de contenidos a la acción autónoma
Breeden enfatizó tres fases importantes del desarrollo de la IA y explicó que a principios de la década, los sistemas generativos de IA producían contenido solo cuando se les solicitaba. A finales de 2024, se entrenaron modelos para razonar mediante problemas de varios pasos. Ahora, los sistemas de agentes pueden planificar y ejecutar secuencias de decisiones por sí solos sin supervisión humana.
Cuando se aplica a las finanzas, esta trayectoria apunta hacia un sistema en el que los agentes de IA pueden negociar valores, procesar pagos y responder a amenazas cibernéticas con una participación humana limitada. Breeden continuó describiendo un sistema financiero que “opera de manera más autónoma, a escala y velocidad”, con agentes que actúan en nombre de los consumidores, comerciantes y plataformas comerciales.
El Banco de Inglaterra es el más preocupado por los riesgos cibernéticos
Entre varios riesgos para la estabilidad financiera, Breeden destacó la ciberseguridad como el tema más crítico. Citó el Instituto de Seguridad de IA del gobierno del Reino Unido, que ha identificado una enorme mejora en lo que la IA agente puede hacer en Internet.
Las mismas herramientas que ayudan a los defensores a encontrar y corregir vulnerabilidades también brindan a los atacantes la capacidad de descubrirlas y explotarlas. Breeden advirtió que el uso malicioso de estas capacidades “aumenta materialmente la posibilidad de ataques que podrían dañar la estabilidad financiera”.
Los comentarios de Breeden incluyeron una sugerencia de que las herramientas comerciales autónomas pueden necesitar “interruptores de apagado” incorporados para evitar shocks en el mercado, lo que representaría una desviación de las regulaciones actuales.
El auge de la inversión plantea enormes riesgos
Breeden mencionó otra preocupación con respecto a la financiación de estos agentes de IA. El Comité de Política Financiera del Banco concluyó en abril que, si bien las grandes empresas de tecnología habían financiado inicialmente la creación y el mantenimiento de la infraestructura de IA con flujo de caja y capital, el uso de financiación mediante deuda estaba aumentando rápidamente y adoptando formas nuevas y complejas.
Esto significa que una caída repentina en las valoraciones de los activos relacionados con la IA podría causar ahora una onda expansiva masiva en los mercados crediticios. El vicegobernador del Banco de Inglaterra dijo que el comité consideró que “las consecuencias para la estabilidad financiera de cualquier caída en los precios de los activos relacionados con la IA bien podrían aumentar”.
Se espera una evaluación más profunda por parte del comité sobre este tema el 7 de julio.
Breeden también argumentó que los bancos centrales deben adaptarse para utilizar ellos mismos la IA en la supervisión de estos sistemas, y no centrarse únicamente en gestionar los riesgos introducidos por la IA.