(Business Lounge Journal – General Management)
AI Generatif (gen AI) siap menjadi katalisator gelombang peningkatan produktivitas berikutnya di berbagai industri, salah satunya adalah jasa keuangan. Dari pemodelan analitik hingga otomatisasi tugas manual hingga sintesis konten tidak terstruktur, teknologi ini telah mengubah cara fungsi perbankan beroperasi, termasuk cara lembaga keuangan mengelola risiko dan tetap mematuhi peraturan.
Sangat penting bagi fungsi risiko dan kepatuhan untuk membatasi penggunaan gen AI dalam suatu organisasi. Namun, teknologi ini dapat membantu fungsi-fungsi itu sendiri meningkatkan efisiensi dan efektivitas. Dalam artikel ini, akan dibahas bagaimana bank dapat membangun pendekatan yang fleksibel dan kuat dalam menggunakan gen AI dalam manajemen risiko dan kepatuhan serta mengidentifikasi beberapa topik penting yang harus dipertimbangkan oleh para pemimpin fungsi.
Merebut janji gen AI
Gen AI berpotensi merevolusi cara bank mengelola risiko dalam tiga hingga lima tahun ke depan. Hal ini dapat memungkinkan fungsi-fungsi untuk beralih dari aktivitas yang berorientasi pada tugas ke arah kemitraan dengan lini bisnis dalam pencegahan risiko strategis dan memiliki kendali sejak awal dalam perjalanan pelanggan baru, yang sering disebut sebagai pendekatan “ pergeseran ke kiri ”. Hal ini, pada gilirannya, akan memberikan kebebasan bagi para profesional di bidang risiko untuk memberikan nasihat kepada dunia usaha mengenai pengembangan produk baru dan keputusan bisnis strategis, mengeksplorasi tren dan skenario risiko yang muncul, memperkuat ketahanan, serta meningkatkan proses risiko dan pengendalian secara proaktif.
Kemajuan ini dapat mengarah pada penciptaan ‘pusat intelijen risiko’ yang didukung AI dan gen-AI yang melayani semua lini pertahanan – lines of defense (LOD): bisnis dan operasi, fungsi kepatuhan dan risiko, serta audit. Pusat tersebut akan menyediakan pelaporan otomatis, peningkatan transparansi risiko, efisiensi yang lebih tinggi dalam pengambilan keputusan terkait risiko, dan otomatisasi parsial dalam penyusunan dan pembaruan kebijakan dan prosedur untuk mencerminkan perubahan persyaratan peraturan. Ini akan bertindak sebagai sumber informasi yang andal dan efisien, memungkinkan manajer risiko untuk membuat keputusan dengan cepat dan akurat.
Fungsi risiko bank dan pemangku kepentingannya dapat mengembangkan alat yang memindai transaksi dengan bank lain, potensi tanda bahaya, berita pasar, harga aset, dan banyak lagi untuk memengaruhi keputusan risiko. Para ahli virtual ini juga dapat mengumpulkan data dan mengevaluasi penilaian risiko iklim untuk menjawab pertanyaan pihak lawan.
Terakhir, gen AI dapat memfasilitasi koordinasi yang lebih baik antara LOD pertama dan kedua dalam organisasi sekaligus mempertahankan struktur tata kelola di ketiga LOD tersebut. Koordinasi yang lebih baik akan memungkinkan peningkatan mekanisme pemantauan dan pengendalian, sehingga memperkuat kerangka manajemen risiko organisasi.
Munculnya penerapan gen AI dalam risiko dan kepatuhan
Dari sekian banyak penerapan gen AI yang menjanjikan bagi lembaga keuangan, ada serangkaian kandidat yang sedang dijajaki oleh bank untuk penerapan gelombang pertama: kepatuhan terhadap peraturan, kejahatan keuangan, risiko kredit, pemodelan dan analisis data, risiko dunia maya, dan risiko iklim. Secara keseluruhan, kami melihat penerapan gen AI pada fungsi risiko dan kepatuhan melalui tiga model kasus penggunaan.
Melalui pakar virtual , pengguna dapat mengajukan pertanyaan dan menerima jawaban ringkasan yang dibuat dari dokumen panjang dan data tidak terstruktur. Dengan otomatisasi proses manual , gen AI melakukan tugas yang memakan waktu. Dengan akselerasi kode , gen AI memperbarui atau menerjemahkan kode lama atau menulis kode yang sepenuhnya baru. Semua model ini dapat berperan dalam tanggung jawab utama risiko dan kepatuhan:
- Kepatuhan terhadap peraturan . Perusahaan menggunakan gen AI sebagai ahli peraturan dan kebijakan virtual dengan melatihnya untuk menjawab pertanyaan tentang peraturan, kebijakan perusahaan, dan pedoman. Teknologi ini juga dapat membandingkan kebijakan, peraturan, dan prosedur operasi. Sebagai akselerator kode, ia dapat memeriksa kode untuk mengetahui ketidakselarasan dan kesenjangan kepatuhan. Hal ini dapat mengotomatisasi pemeriksaan kepatuhan terhadap peraturan dan memberikan peringatan terhadap potensi pelanggaran.
- Kejahatan keuangan . Gen AI dapat menghasilkan laporan aktivitas mencurigakan berdasarkan informasi pelanggan dan transaksi. Hal ini juga dapat mengotomatiskan pembuatan dan pembaruan peringkat risiko pelanggan berdasarkan perubahan atribut know your customer. Dengan menghasilkan dan meningkatkan kode untuk mendeteksi aktivitas mencurigakan dan menganalisis transaksi, teknologi ini dapat meningkatkan pemantauan transaksi.
- Risiko kredit . Dengan merangkum informasi nasabah (misalnya transaksi dengan bank lain) untuk menginformasikan keputusan kredit, gen AI dapat membantu mempercepat proses kredit bank secara end-to-end. Setelah keputusan kredit dibuat, ia dapat menyusun nota kredit dan kontrak. Lembaga keuangan menggunakan teknologi ini untuk menghasilkan laporan risiko kredit dan mengekstrak wawasan pelanggan dari memo kredit. Gen AI dapat menghasilkan kode untuk mencari dan menganalisis data kredit guna mendapatkan gambaran tentang profil risiko pelanggan dan menghasilkan estimasi probabilitas gagal bayar dan kerugian melalui model.
- Pemodelan dan analisis data . Gen AI dapat mempercepat migrasi bahasa pemrograman lama, seperti peralihan dari SAS dan COBOL ke Python. Ini juga dapat mengotomatiskan pemantauan kinerja model dan menghasilkan peringatan jika metrik berada di luar tingkat toleransi. Perusahaan juga menggunakan gen AI untuk menyusun dokumentasi model dan laporan validasi.
- Risiko dunia maya . Dengan memeriksa kerentanan keamanan siber, gen AI dapat menggunakan bahasa alami untuk menghasilkan kode guna aturan deteksi dan mempercepat pengembangan kode yang aman. Ini dapat berguna dalam “tim merah” (mensimulasikan strategi permusuhan dan menguji skenario serangan). Teknologi ini juga dapat berfungsi sebagai ahli virtual untuk menyelidiki data keamanan. Hal ini dapat membuat deteksi risiko menjadi lebih cerdas dengan mempercepat dan menggabungkan wawasan dan tren keamanan dari peristiwa keamanan dan anomali perilaku.
- Risiko iklim . Sebagai akselerator kode, gen AI dapat menyarankan cuplikan kode, memfasilitasi pengujian unit, dan membantu visualisasi risiko fisik dengan peta resolusi tinggi. Hal ini dapat mengotomatiskan pengumpulan data untuk penilaian risiko transisi pihak lawan dan menghasilkan sinyal peringatan dini berdasarkan peristiwa pemicu. Sebagai ahli virtual, gen AI dapat secara otomatis menghasilkan laporan mengenai topik lingkungan, sosial, dan tata kelola (ESG) dan bagian keberlanjutan dalam laporan tahunan.
Ketika perusahaan telah memasukkan gen AI ke dalam peran dan fungsi ini, mereka telah melihat gelombang kedua munculnya kasus penggunaan di berbagai aspek manajemen risiko lainnya. Gen AI dapat menyederhanakan risiko perusahaan dengan mensintesis ringkasan manajemen risiko perusahaan dari data dan laporan yang ada. Hal ini dapat membantu mempercepat proses penilaian kecukupan modal internal dan membuat model kecukupan modal dengan sumber data yang relevan. Bank juga dapat menggunakannya untuk merangkum posisi risiko dan menyusun laporan risiko serta pengarahan eksekutif untuk manajemen senior.
Bidang lain di mana gen AI dapat memainkan peran penting adalah risiko operasional. Bank dapat menggunakannya untuk otomatisasi operasional pengendalian, pemantauan, dan deteksi insiden. Hal ini juga dapat secara otomatis menyusun risiko dan mengendalikan penilaian mandiri atau mengevaluasi kualitas yang sudah ada.
Pertimbangan utama dalam adopsi gen AI
Meskipun ada beberapa kasus penggunaan yang menarik di mana gen AI dapat mendorong produktivitas, memprioritaskan hal tersebut sangatlah penting untuk mewujudkan nilai sambil mengadopsi teknologi secara bertanggung jawab dan berkelanjutan. Ada tiga dimensi penting yang dapat dinilai oleh para pemimpin risiko untuk menentukan prioritas kasus penggunaan dan memaksimalkan dampak.
Chief risk officer dapat mendasarkan keputusan mereka pada penilaian pada dimensi dampak, risiko, dan kelayakan kualitatif dan kuantitatif. Proses ini mencakup penyelarasan dengan keseluruhan visi bank terkait gen AI dan batasan terkait, memahami peraturan terkait seperti peraturan OJK, dan menilai sensitivitas data. Semua pemimpin harus menyadari risiko baru yang terkait dengan teknologi baru ini. Risiko-risiko ini secara garis besar dapat dibagi menjadi delapan kategori:
- pelanggaran keadilan, ketika keluaran model gen AI mungkin bias terhadap kelompok pengguna tertentu
- pelanggaran kekayaan intelektual, seperti pelanggaran hak cipta dan insiden plagiarisme, karena model yayasan biasanya memanfaatkan data berbasis internet
- masalah privasi, seperti pengungkapan informasi pribadi atau sensitif kepada publik tanpa izin
- penggunaan jahat, seperti penyebaran konten palsu dan penggunaan gen AI oleh penjahat untuk membuat identitas palsu, mengatur serangan phishing, atau menipu pelanggan
- ancaman keamanan, ketika kerentanan dalam sistem gen AI dapat ditembus atau dieksploitasi
- risiko kinerja, seperti model yang memberikan jawaban yang salah secara faktual dan informasi yang ketinggalan jaman
- risiko strategis melalui ketidakpatuhan terhadap standar atau peraturan ESG, sehingga menimbulkan risiko sosial atau reputasi
- risiko pihak ketiga, seperti kebocoran data kepemilikan ke ranah publik melalui penggunaan alat pihak ketiga
Strategi pemenang dalam merencanakan perjalanan gen AI
Organisasi yang dapat mengambil manfaat dari gen AI harus menggunakan pendekatan top-down yang terfokus untuk memulai perjalanannya. Mengingat kelangkaan talenta untuk meningkatkan kemampuan gen AI, organisasi harus memulai dengan tiga hingga lima kasus penggunaan risiko dan kepatuhan berprioritas tinggi yang selaras dengan prioritas strategis mereka.
Mereka dapat melaksanakan kasus penggunaan ini dalam tiga hingga enam bulan, diikuti dengan perkiraan dampak bisnis. Penskalaan aplikasi memerlukan pengembangan ekosistem gen AI yang berfokus pada tujuh bidang:
- katalog layanan dan solusi (kasus penggunaan) generasi AI yang siap produksi dan dapat digunakan kembali yang dapat dengan mudah dihubungkan ke berbagai skenario bisnis dan aplikasi di seluruh rantai nilai perbankan
- tumpukan teknologi yang aman dan siap gen-AI yang mendukung penerapan cloud hibrid untuk memungkinkan dukungan bagi data tidak terstruktur, penyematan vektor, pelatihan pembelajaran mesin, eksekusi, serta pemrosesan sebelum dan sesudah peluncuran
- integrasi dengan model dan alat pondasi tingkat perusahaan untuk memungkinkan pemilihan dan orkestrasi yang sesuai dengan tujuan di seluruh model terbuka dan eksklusif
- otomatisasi alat pendukung, termasuk operasi pembelajaran mesin- machine learning operations (MLOps), data, dan jalur pemrosesan, untuk mempercepat pengembangan, rilis, dan pemeliharaan solusi gen AI
- model tata kelola dan talent yang siap menerapkan keahlian lintas fungsi yang diberdayakan untuk berkolaborasi dan bertukar pengetahuan (seperti bahasa, pemrosesan bahasa alami, dan pembelajaran penguatan dari umpan balik manusia, teknisi cepat, pakar cloud, pemimpin produk AI, serta pakar hukum dan peraturan)
- penyelarasan proses untuk membangun gen AI guna mendukung eksperimen, validasi, dan penerapan solusi menyeluruh yang cepat dan aman
- road map yang merinci garis waktu kapan berbagai kemampuan dan solusi akan diluncurkan dan ditingkatkan skalanya yang selaras dengan strategi bisnis organisasi yang lebih luas
Ketika perusahaan-perusahaan di semua sektor bereksperimen dengan gen AI, organisasi-organisasi yang gagal memanfaatkan potensi teknologi ini berisiko tertinggal dalam hal efisiensi, kreativitas, dan keterlibatan pelanggan. Pada awalnya, bank harus ingat bahwa peralihan dari tahap uji coba ke tahap produksi membutuhkan waktu yang jauh lebih lama untuk gen AI dibandingkan dengan AI klasik dan pembelajaran mesin. Dalam memilih kasus penggunaan, fungsi risiko dan kepatuhan mungkin tergoda untuk menggunakan pendekatan tertutup. Sebaliknya, mereka harus selaras dengan strategi dan tujuan generasi AI organisasi secara keseluruhan.
Agar adopsi gen AI oleh kelompok risiko dan kepatuhan menjadi efektif dan bertanggung jawab, kelompok-kelompok ini harus memahami perlunya manajemen dan pengendalian risiko baru, pentingnya permintaan data dan teknologi, serta persyaratan talent dan model operasi baru.
Manajemen dan pengendalian risiko
Dengan gen AI, tingkat manajemen dan pengendalian risiko yang baru diperlukan. Menang secara bertanggung jawab membutuhkan strategi defensif dan ofensif. Semua organisasi menghadapi risiko masuk dari gen AI, selain risiko dari pengembangan kasus penggunaan gen AI dan penyematan gen AI ke dalam alat standar tempat kerja. Oleh karena itu, bank perlu mengembangkan kemampuan mitigasi risikonya.
Gelombang pertama sangat berfokus pada tinjauan langsung manusia untuk memastikan keakuratan respons model. Menggunakan gen AI untuk memeriksa dirinya sendiri, seperti melalui kutipan sumber dan skor risiko, dapat membuat tinjauan manusia menjadi lebih efisien. Dengan memindahkan batasan gen AI ke real-time dan menghilangkan tinjauan yang dilakukan secara langsung (human-in-the-loop), beberapa perusahaan telah menempatkan gen AI secara langsung kepada pelanggan mereka. Untuk melakukan langkah ini, para profesional risiko dan kepatuhan dapat bekerja dengan anggota tim pengembangan untuk menetapkan batasan dan menciptakan kontrol sejak awal.
Fungsi risiko perlu waspada untuk mengelola risiko gen AI di tingkat perusahaan. Mereka dapat memenuhi kewajiban tersebut dengan mengambil langkah-langkah berikut:
- Pastikan semua orang di seluruh organisasi menyadari risiko yang melekat pada gen AI, mempublikasikan apa yang boleh dan tidak boleh dilakukan, serta menetapkan batasan risiko.
- Memperbarui kriteria identifikasi model dan kebijakan risiko model (sejalan dengan peraturan) untuk memungkinkan identifikasi dan klasifikasi model gen AI, dan memiliki kerangka penilaian dan pengendalian risiko yang sesuai.
- Mengembangkan pakar risiko dan kepatuhan generasi AI yang dapat bekerja secara langsung dengan tim pengembangan garis depan dalam produk baru dan perjalanan pelanggan.
- Tinjau kembali pengendalian know your customer, anti pencucian uang, penipuan, dan dunia maya untuk memastikan bahwa hal tersebut masih efektif di dunia yang mendukung gen-AI.
Tuntutan data dan teknologi
Bank tidak boleh meremehkan kebutuhan data dan teknologi terkait sistem gen AI, yang memerlukan keduanya dalam jumlah besar. Mengapa? Pertama, proses penyematan konteks sangat penting untuk memastikan keakuratan dan relevansi hasil. Proses tersebut memerlukan masukan data yang sesuai dan mengatasi masalah kualitas data. Selain itu, kedua data yang ada mungkin tidak mencukupi. Organisasi mungkin perlu membangun atau berinvestasi dalam kumpulan data berlabel untuk mengukur, mengukur, dan melacak kinerja aplikasi gen AI berdasarkan tugas dan penggunaan.
Data akan menjadi keunggulan kompetitif dalam mengekstraksi nilai dari gen AI. Organisasi yang ingin mengotomatiskan keterlibatan pelanggan menggunakan gen AI harus memiliki data terkini dan akurat. Organisasi dengan platform data canggih akan menjadi yang paling efektif dalam memanfaatkan kemampuan gen AI.
Persyaratan bakat dan model operasi
Karena gen AI adalah teknologi transformasional yang memerlukan perubahan organisasi, organisasi perlu memahami persyaratan talenta terkait. Bank dapat memasukkan perubahan model operasi ke dalam budaya dan proses bisnis seperti biasa. Mereka dapat melatih pengguna baru tidak hanya tentang cara menggunakan gen AI tetapi juga tentang keterbatasan dan kelebihannya. Mengumpulkan tim “gen AI champion” dapat membantu membentuk, membangun, dan meningkatkan adopsi teknologi baru ini.
Gen AI dapat memberdayakan seluruh fungsi risiko dan kepatuhan bank di masa depan. Hal ini menyiratkan perubahan budaya yang mendalam yang mengharuskan semua profesional risiko untuk memahami teknologi baru, kemampuannya, keterbatasannya, dan cara memitigasi keterbatasan tersebut. Penggunaan gen AI akan menjadi perubahan yang signifikan bagi semua organisasi, namun organisasi yang mampu menyeimbangkan antara memanfaatkan kekuatan teknologi dan mengelola risiko yang ditimbulkannya dapat mencapai peningkatan produktivitas yang signifikan.