Regulator keuangan jarang berbicara serempak. Ketika Financial Stability Board dan Federal Reserve keduanya menerbitkan laporan utama tentang ancaman yang sama dalam rentang beberapa bulan, sinyalnya jelas: kecerdasan buatan telah beralih dari alat eksperimental menjadi faktor risiko sistemik dalam keuangan global. [1] [2]
Laporan FSB bulan November 2024 kepada G20 meninjau kembali penilaian 2017 dan menemukan lanskap yang berubah. Kemajuan teknologi dan komputasi yang lebih murah mempercepat adopsi AI di seluruh perusahaan keuangan dan pengawasnya. Manfaatnya nyata — efisiensi operasional, kepatuhan regulasi, produk yang dipersonalisasi, dan analitik lanjutan — namun dewan memperingatkan bahwa kerentanan kini “menonjol karena potensi mereka meningkatkan risiko sistemik.” [1]
Four channels that could amplify systemic risk
FSB mengidentifikasi empat saluran kerentanan yang saling terkait. Pertama, ketergantungan pihak ketiga dan konsentrasi penyedia layanan. Sejumlah kecil penyedia infrastruktur cloud dan AI kini menjadi tulang punggung fungsi keuangan kritis. Gangguan atau serangan adversarial pada salah satunya dapat meluas ke institusi lain secara bersamaan. [1]
Kedua, korelasi pasar. Ketika banyak perusahaan menggunakan model serupa yang dilatih pada data yang tumpang tindih, keputusan perdagangan dan risiko mereka menjadi konvergen. Perilaku berkelompok ini dapat memperkuat pergerakan harga dan mengurangi likuiditas pasar saat terjadi tekanan. [1]
Ketiga, risiko siber. AI memperluas permukaan serangan — pencemaran model, injeksi prompt, dan eksfiltrasi data bergabung dengan ancaman tradisional. AI generatif juga menurunkan hambatan bagi phishing canggih, deepfake, dan rekayasa sosial berskala besar. [1]
Keempat, risiko model, kualitas data, dan tata kelola. Validasi model tradisional mengasumsikan hubungan statis. Sistem AI yang terus belajar atau beroperasi sebagai kotak hitam menentang kerangka tata kelola yang ada. Provenansi data yang buruk atau drift yang tidak terdeteksi dapat menghasilkan keputusan yang salah, bias, atau ilegal — dan sulit dilacak. [1]
Generative AI adds fraud, disinformation, and misalignment
Makalah kerja Federal Reserve tentang AI generatif menekankan lapisan ancaman yang lebih baru. GenAI “meningkatkan potensi penipuan keuangan dan disinformasi di pasar keuangan,” catat FSB, selaras dengan fokus Fed pada bagaimana konten sintetis dapat memanipulasi harga, memicu run, atau merusak kepercayaan pada infrastruktur pasar. [1]
Sistem AI yang tidak selaras — yang tidak dikalibrasi untuk beroperasi dalam batas hukum, regulasi, dan etika — dapat berperilaku merusak stabilitas keuangan. Ini bukan fiksi ilmiah. Agen perdagangan otonom yang mengoptimalkan tujuan sempit dapat mengeksploitasi mikrostruktur pasar dengan cara yang melanggar aturan atau mengguncang venue, terutama bila pengaman (guardrails) tidak ada atau tidak jelas. [1]
Longer-term structural shifts
Di luar kerentanan langsung, FSB menyoroti tiga tren struktural. Struktur pasar mungkin semakin terkonsentrasi karena hanya perusahaan besar yang mampu menanggung biaya kemampuan AI mutakhir. Kondisi makroekonomi dapat berubah jika peningkatan produktivitas berbasis AI atau perpindahan pekerjaan mengubah siklus kredit. Konsumsi energi dari pelatihan dan inferensi AI berskala besar dapat memengaruhi pasar energi dan, secara tidak langsung, eksposur keuangan terhadap sektor yang intensif energi. [1]
What authorities are being asked to do
FSB tidak meminta regulasi AI yang khusus — belum. Sebaliknya, dewan mendorong otoritas nasional dan badan internasional untuk: menutup kesenjangan informasi tentang penggunaan AI di seluruh sistem keuangan; menilai apakah kerangka kebijakan yang ada masih memadai; dan membangun kapabilitas pengawasan, termasuk dengan menerapkan alat pemantauan berbasis AI sendiri. [1]
Urutan pragmatis ini — memantau, menilai, lalu bertindak — mencerminkan pengakuan bahwa aturan yang terlalu ketat dapat menghambat inovasi yang bermanfaat sementara celah visibilitas meninggalkan titik buta. FSB juga mencatat adanya meja bundar OECD‑FSB di mana pakar publik dan swasta membahas “peluang, risiko, dan peran pembuat kebijakan dalam mempromosikan penggunaan AI yang aman di bidang keuangan.” [1]
Practical takeaways for firms and oversight teams
Institusi keuangan harus mengantisipasi bahwa pengawas akan mengajukan pertanyaan yang lebih keras tentang inventaris AI, pemetaan pihak ketiga, dan tata kelola model. Perusahaan yang tidak dapat menjelaskan bagaimana sistem AI mereka membuat keputusan, dari mana data pelatihan berasal, atau apa yang terjadi ketika penyedia utama gagal akan menghadapi gesekan regulasi.
Manajer risiko harus melakukan stress‑test terhadap perilaku model yang terkorrelasi antar rekan, bukan hanya kegagalan idiosinkratik. Tim siber perlu model ancaman yang mencakup injeksi prompt dan media sintetis. Fungsi kepatuhan harus memperluas tata kelola untuk mencakup sistem pembelajaran berkelanjutan, bukan hanya model statis.
Sementara itu, regulator sedang membangun alat AI mereka sendiri untuk mendeteksi anomali di seluruh pasar — memutar teknologi ke dalam diri untuk mengawasi eksternalitasnya. Perlombaan bukan hanya antara perusahaan yang mengadopsi AI, tetapi antara munculnya risiko dan visibilitas pengawasan.
Pesan dari FSB dan Fed konsisten: AI dalam keuangan tidak lagi proyek percontohan. Ia sudah menjadi infrastruktur. Dan risiko tingkat infrastruktur menuntut pengawasan tingkat infrastruktur.
