Los reguladores financieros rara vez hablan al unísono. Cuando el Consejo de Estabilidad Financiera y la Reserva Federal publican ambos informes importantes sobre la misma amenaza a pocos meses de diferencia, la señal es clara: la inteligencia artificial ha pasado de ser una herramienta experimental a un factor de riesgo sistémico en las finanzas globales. [1] [2]
El informe de noviembre de 2024 del FSB al G20 revisita su evaluación de 2017 y encuentra un panorama transformado. Los avances tecnológicos y la computación más barata han acelerado la adopción de IA en firmas financieras y supervisores por igual. Los beneficios son reales — eficiencia operativa, cumplimiento regulatorio, productos personalizados y análisis avanzados — pero la junta advierte que las vulnerabilidades ahora “destacan por su potencial de aumentar el riesgo sistémico”. [1]
Four channels that could amplify systemic risk
El FSB identifica cuatro canales de vulnerabilidad interconectados. Primero, dependencias de terceros y concentración de proveedores de servicios. Un puñado de proveedores de nube e infraestructura de IA sustentan ahora funciones financieras críticas. Una interrupción o un ataque adversario a uno de ellos podría propagarse simultáneamente a múltiples instituciones. [1]
Segundo, correlaciones de mercado. Cuando varias firmas usan modelos similares entrenados con datos superpuestos, sus decisiones de negociación y riesgo convergen. Este comportamiento de rebaño puede amplificar los movimientos de precios y reducir la liquidez del mercado bajo estrés. [1]
Tercero, riesgos cibernéticos. La IA amplía la superficie de ataque — envenenamiento de modelos, inyección de prompts y exfiltración de datos se suman a las amenazas tradicionales. La IA generativa también reduce la barrera de entrada para phishing sofisticado, deepfakes y ingeniería social a gran escala. [1]
Cuarto, riesgo de modelo, calidad de datos y gobernanza. La validación tradicional de modelos asume relaciones estáticas. Los sistemas de IA que aprenden continuamente o operan como cajas negras desafían los marcos de gobernanza existentes. Una procedencia de datos deficiente o un drift no detectado pueden producir decisiones erróneas, sesgadas o ilegales, y difíciles de rastrear. [1]
Generative AI adds fraud, disinformation, and misalignment
El documento de trabajo de la Reserva Federal sobre IA generativa subraya una capa de amenaza más reciente. La IA generativa “aumenta el potencial de fraude financiero y desinformación en los mercados financieros”, señala el FSB, eco del enfoque de la Fed sobre cómo el contenido sintético podría manipular precios, desencadenar corridas o minar la confianza en la infraestructura del mercado. [1]
Los sistemas de IA desalineados —aquellos que no están calibrados para operar dentro de los límites legales, regulatorios y éticos— pueden adoptar conductas que dañen la estabilidad financiera. No se trata de ciencia ficción. Un agente de negociación autónomo que optimiza un objetivo estrecho podría explotar la microestructura del mercado de maneras que violen normas o desestabilicen los lugares de negociación, sobre todo si faltan o son insuficientes las salvaguardas. [1]
Longer-term structural shifts
Más allá de las vulnerabilidades inmediatas, el FSB señala tres tendencias estructurales. La estructura del mercado podría concentrarse aún más, ya que solo las grandes firmas pueden costear capacidades de IA de vanguardia. Las condiciones macroeconómicas podrían cambiar si los aumentos de productividad impulsados por IA o la sustitución de empleo alteran los ciclos de crédito. El consumo energético del entrenamiento e inferencia a gran escala puede afectar los mercados de energía y, por extensión, las exposiciones financieras a sectores intensivos en energía. [1]
What authorities are being asked to do
El FSB no pide aún una regulación específica para la IA. En su lugar, insta a las autoridades nacionales y a los organismos internacionales a: cerrar las brechas de información sobre el uso de IA en todo el sistema financiero; evaluar si los marcos de política existentes siguen siendo adecuados; y desarrollar capacidades de supervisión, incluso desplegando herramientas de monitoreo impulsadas por IA. [1]
Esta secuencia pragmática —monitorizar, evaluar y luego actuar— refleja el reconocimiento de que normas demasiado estrictas podrían sofocar la innovación beneficiosa, mientras que los vacíos de visibilidad dejan puntos ciegos. El FSB también menciona una mesa redonda OECD‑FSB donde expertos públicos y privados debatieron “oportunidades, riesgos y el papel de los responsables políticos en promover el uso seguro de la IA en finanzas”. [1]
Practical takeaways for firms and oversight teams
Las instituciones financieras deben esperar que los supervisores formulen preguntas más exigentes sobre el inventario de IA, los mapeos de terceros y la gobernanza de modelos. Las firmas que no puedan explicar cómo sus sistemas de IA toman decisiones, de dónde provienen los datos de entrenamiento o qué ocurre cuando falla un proveedor clave enfrentarán fricciones regulatorias.
Los gestores de riesgo deben realizar pruebas de estrés para el comportamiento correlacionado de modelos entre pares, no solo fallos idiosincráticos. Los equipos de ciberseguridad necesitan modelos de amenaza que incluyan inyección de prompts y medios sintéticos. Las funciones de cumplimiento deben ampliar la gobernanza para cubrir sistemas de aprendizaje continuo, no solo modelos estáticos.
Los reguladores, mientras tanto, están construyendo sus propias herramientas de IA para detectar anomalías en los mercados —volviendo la tecnología contra sus propias externalidades. La carrera no es solo entre las firmas que adoptan IA, sino entre la aparición de riesgos y la visibilidad supervisora.
El mensaje de tanto el FSB como la Fed es coherente: la IA en finanzas ya no es un proyecto piloto. Es infraestructura. Y los riesgos de nivel de infraestructura exigen una supervisión de nivel de infraestructura.
