(Business Lounge Journal – General Management)
AI Generatif (gen AI) yang menghadirkan peluang bagi perusahaan memerlukan manajemen risiko, dengan potensi dampak transformatif dalam inovasi, pertumbuhan, dan produktivitas. Teknologi ini sekarang dapat menghasilkan kode perangkat lunak, teks, ucapan, gambar dengan ketelitian tinggi, dan video interaktif yang kredibel.
Mereka telah mengidentifikasi potensi jutaan material baru melalui struktur kristal dan bahkan mengembangkan model molekuler yang dapat menjadi dasar untuk menemukan obat bagi penyakit yang sebelumnya tidak diobati.
Penelitian McKinsey memperkirakan bahwa gen AI berpotensi menambah nilai ekonomi hingga $4,4 triliun bagi perekonomian global sekaligus meningkatkan dampak seluruh AI sebesar 15 hingga 40 persen. Meskipun banyak pemimpin perusahaan yang bertekad untuk menangkap nilai ini, namun mereka menyadari bahwa peluang AI Generatif disertai dengan risiko yang signifikan.
Dalam survei kilat baru-baru ini terhadap lebih dari 100 organisasi dengan pendapatan tahunan lebih dari $50 juta, McKinsey menemukan bahwa 63 persen responden menganggap penerapan gen AI sebagai prioritas “tinggi” atau “sangat tinggi”. Namun 91 persen responden merasa “tidak siap” untuk melakukan hal tersebut secara bertanggung jawab.
Kegelisahan ini dapat dimengerti. Risiko yang terkait dengan gen AI berkisar dari output yang tidak akurat dan bias hingga potensi misinformasi berskala besar dan pengaruh jahat terhadap politik dan kesejahteraan pribadi.
Terdapat juga perdebatan yang lebih luas mengenai kemungkinan dan keinginan untuk mengembangkan AI secara umum. Masalah-masalah ini dapat melemahkan penerapan gen AI secara bijaksana, sehingga berpotensi menyebabkan perusahaan menghentikan eksperimen hingga risikonya dapat dipahami dengan lebih baik—atau bahkan menurunkan prioritas teknologi karena kekhawatiran akan ketidakmampuan mengelola hal-hal baru dan kompleksitas dari masalah-masalah ini.
Namun, dengan mengadaptasi pendekatan manajemen risiko yang telah terbukti pada gen AI, kita dapat bergerak secara bertanggung jawab dan dengan kecepatan yang baik untuk menangkap nilai dari teknologi tersebut.
Hal ini juga akan memungkinkan perusahaan untuk beroperasi secara efektif sementara lingkungan peraturan seputar AI terus berkembang, seperti perintah eksekutif Presiden Biden mengenai pengembangan dan penggunaan gen AI.
Selain itu, sebagian besar organisasi cenderung melihat penggunaan gen AI meningkatkan ancaman “masuk” (risiko yang mungkin berdampak pada organisasi terlepas dari apakah mereka menerapkan gen AI), khususnya dalam bidang penipuan dan dunia maya (indikasi awal menunjukkan bahwa gen AI akan mampu untuk mengalahkan pemeriksaan biometrik antipenipuan standar.
Membangun manajemen risiko yang sesuai dengan tujuan akan membantu mencegah ancaman-ancaman ini.
Secara praktis, perusahaan yang ingin mengatasi risiko gen AI harus mengambil empat langkah berikut:
- Memahami dan merespons risiko yang masuk terkait gen AI.
- Mengembangkan pandangan komprehensif mengenai materialitas risiko terkait gen-AI di seluruh domain dan kasus penggunaan, dan membangun serangkaian opsi (termasuk tindakan teknis dan non-teknis) untuk mengelola risiko.
- Membangun struktur tata kelola yang menyeimbangkan keahlian dan pengawasan dengan kemampuan untuk mendukung pengambilan keputusan yang cepat, dengan mengadaptasi struktur yang ada bila memungkinkan.
- Tanamkan struktur tata kelola dalam model operasi yang memanfaatkan keahlian di seluruh organisasi dan mencakup pelatihan yang sesuai untuk pengguna akhir.
Penjelasan spesifik tentang cara menerapkan langkah-langkah ini dan tingkat perubahan yang diperlukan agar langkah-langkah tersebut efektif akan berbeda-beda, tergantung pada aspirasi dan sifat generasi AI suatu organisasi
Misalnya, perusahaan tersebut mungkin ingin menjadi pembuat model pondasi, pembuat yang menyesuaikan dan menskalakan model pondasi, atau pihak yang mengadopsi model pondasi melalui aplikasi siap pakai dengan sedikit atau tanpa penyesuaian (misalnya, kantor standar). perangkat lunak produktivitas).
Memahami dan merespons risiko yang masuk
Menurut Mckinsey risiko terkait gen AI dapat ditangkap dalam delapan kategori utama. Kategori-kategori ini mempertimbangkan risiko masuk dan risiko yang diakibatkan langsung dari penerapan alat dan aplikasi gen AI. Setiap perusahaan harus mengembangkan beberapa versi taksonomi inti ini untuk mendukung pemahaman dan komunikasi mengenai risiko yang timbul dari penerapan gen AI.
Memutuskan bagaimana merespons risiko yang masuk merupakan fokus bagi banyak tim eksekutif dan dewan direksi. Keputusan ini harus menjadi landasan bagi cara organisasi mengkomunikasikan gen AI kepada karyawan dan pemangku kepentingannya. Hal ini juga harus menginformasikan pendekatan terhadap kasus penggunaan.
Empat sumber utama risiko masuk dari penerapan gen AI:
- ancaman keamanan, akibat peningkatan volume dan kecanggihan serangan malware yang didukung gen-AI
- risiko pihak ketiga, akibat tantangan dalam memahami di mana dan bagaimana pihak ketiga mungkin menerapkan gen AI, sehingga menimbulkan potensi paparan yang tidak diketahui
- penggunaan jahat, yang diakibatkan oleh potensi pelaku kejahatan membuat deepfake yang menarik terhadap perwakilan atau merek perusahaan yang mengakibatkan kerusakan reputasi yang signifikan
- pelanggaran kekayaan intelektual (IP), akibat IP (seperti gambar, musik, dan teks) dimasukkan ke dalam mesin pelatihan untuk mendasari model bahasa besar dan dapat diakses oleh siapa saja yang menggunakan teknologi tersebut
Sebagian besar organisasi akan mendapatkan manfaat dari menyelidiki bagaimana gen AI mengubah lingkungan eksternal mereka, dengan dua tujuan utama. Yang pertama adalah memahami potensi paparan terhadap risiko masuk, yang didasarkan pada profil risiko organisasi.
Tujuan kedua adalah untuk memahami kematangan dan kesiapan lingkungan pengendalian—kemampuan teknis dan non-teknis yang dimiliki organisasi untuk mencegah, mendeteksi, dan pada akhirnya merespons risiko yang masuk. Hal ini mencakup pertahanan siber dan penipuan.
Mengelola risiko yang dihasilkan
Organisasi yang berambisi menerapkan gen AI perlu melakukan upaya tambahan yang berkelanjutan untuk memahami dan mengelola risiko penerapan teknologi tersebut. Hal ini mungkin memerlukan investasi waktu dan sumber daya serta perubahan cara kerja.
Namun penting bagi organisasi untuk mencapai manfaat jangka panjang, berkelanjutan, dan transformatif dari gen AI. Kesalahan langkah dan kegagalan dapat mengikis kepercayaan para eksekutif, karyawan, dan pelanggan.
Identifikasi risiko di seluruh kasus
Titik awal yang penting bagi organisasi yang menerapkan kasus penggunaan gen AI adalah memetakan potensi risiko yang terkait dengan setiap kasus di seluruh kategori risiko utama untuk menilai potensi tingkat keparahan risiko.
Pertimbangkan pilihan untuk mengelola risiko di setiap titik kontak
Ketika sebuah organisasi memetakan risiko terkait gen-AI, organisasi tersebut harus mengembangkan strategi untuk mengelola paparan melalui kombinasi mitigasi dan tata kelola yang kuat.
Banyak dari strategi mitigasi awal untuk gen AI mencakup berbagai kasus penggunaan, sehingga memungkinkan organisasi mendapatkan manfaat yang lebih besar dari mitigasi teknis mereka daripada harus membuat pendekatan khusus untuk setiap kasus.
Penutup
Gen AI mempunyai potensi untuk mendefinisikan kembali cara orang bekerja dan hidup. Meskipun teknologi ini berkembang pesat, teknologi ini mempunyai risiko mulai dari kekhawatiran terhadap kelengkapan data pelatihan hingga potensi menghasilkan keluaran yang tidak akurat atau berbahaya.
Para pemimpin bisnis perlu merevisi pedoman teknologi mereka dan mendorong integrasi manajemen risiko yang efektif sejak awal keterlibatan mereka dengan gen AI.
Hal ini akan memungkinkan penerapan teknologi baru yang menarik ini dengan cara yang aman dan bertanggung jawab, membantu perusahaan mengelola risiko yang diketahui (termasuk risiko yang masuk) sekaligus membangun kekuatan untuk beradaptasi terhadap risiko yang tidak terantisipasi seiring dengan berkembangnya kemampuan dan kasus penggunaan teknologi.
Dengan adanya potensi peningkatan produktivitas yang besar, upaya untuk meningkatkan skala gen AI secara berkelanjutan dan bertanggung jawab sangatlah penting untuk mendapatkan manfaat sepenuhnya.