(Business Lounge Journal – General Management)
Banyak perusahaan mulai mengandalkan kecerdasan buatan (AI) untuk membantu mengambil keputusan bisnis. Teknologi ini digunakan untuk memperkirakan permintaan pasar, memproses pengajuan kredit, menyaring kandidat karyawan, hingga mengidentifikasi potensi risiko operasional. Dengan kemampuan menganalisis data dalam jumlah besar dan memberikan rekomendasi secara cepat, AI diharapkan dapat meningkatkan efisiensi sekaligus mengurangi kesalahan manusia. Namun, ada persoalan yang mulai muncul dalam penerapannya: meskipun sistem AI mampu bekerja dengan baik, karyawan yang seharusnya menggunakan rekomendasinya justru sering memilih untuk mengabaikannya.
Persoalan tersebut tidak selalu berkaitan dengan kualitas teknologi atau kurangnya kemampuan karyawan memahami AI. Dalam banyak situasi, masalah yang lebih mendasar justru terletak pada bagaimana perusahaan membagi wewenang dan tanggung jawab ketika keputusan mulai melibatkan mesin. Karyawan mungkin diminta mengikuti rekomendasi AI, tetapi ketika keputusan tersebut menghasilkan dampak negatif, mereka tetap menjadi pihak yang harus mempertanggungjawabkannya. Kondisi ini membuat kepercayaan terhadap AI tidak cukup dibangun melalui peningkatan akurasi teknologi, tetapi juga membutuhkan perubahan dalam sistem manajemen dan tata kelola organisasi.
Saat AI Memberikan Rekomendasi, tetapi Karyawan Tetap Mengambil Alih Keputusan
Dalam artikel Why Even Your Best Employees Override AI Systems That Work, Das Narayandas, profesor administrasi bisnis di Harvard Business School, mengangkat persoalan mengenai karyawan yang mengesampingkan rekomendasi AI meskipun sistem tersebut telah terbukti bekerja dengan baik. Salah satu ilustrasi yang digunakan adalah sebuah bank global yang pada akhir 2022 menyetujui penggunaan sistem AI untuk mengotomatisasi keputusan kredit rutin. Dalam tahap uji coba, sistem tersebut mampu memproses pengajuan lebih cepat dibandingkan manusia, mengurangi kesalahan, dan menawarkan potensi penghematan biaya yang signifikan. Tim manajemen risiko dan kepatuhan telah memberikan persetujuan, bahkan CEO perusahaan mempromosikannya sebagai bukti bahwa bank siap menghadapi masa depan industri keuangan.
Namun, keberhasilan teknologi dalam tahap pengujian tidak otomatis membuat karyawan bersedia menyerahkan keputusan kepada sistem tersebut. Ketika AI mulai digunakan dalam operasional, manusia tetap melakukan intervensi dan mengesampingkan rekomendasinya. Fenomena ini menunjukkan adanya kesenjangan antara kemampuan teknologi dan kesiapan organisasi untuk benar-benar menggunakannya. Perusahaan mungkin sudah menginvestasikan dana besar untuk membeli atau mengembangkan sistem AI, tetapi keputusan akhirnya masih berada di tangan manusia yang belum tentu memiliki alasan yang jelas untuk mengikuti rekomendasi mesin.
Salah satu penyebab utamanya adalah persoalan tanggung jawab. Bayangkan seorang manajer kredit diminta mengikuti rekomendasi AI dalam menyetujui atau menolak pengajuan pinjaman. Jika ia mengikuti rekomendasi sistem dan keputusan tersebut ternyata merugikan bank, manajer tersebut mungkin tetap harus menjelaskan mengapa ia tidak menggunakan penilaiannya sendiri. Sebaliknya, apabila ia mengabaikan rekomendasi AI dan mengambil keputusan berbeda, ia masih memiliki alasan bahwa keputusan tersebut didasarkan pada pertimbangan profesionalnya. Dalam situasi seperti ini, mengesampingkan AI bisa menjadi tindakan yang rasional untuk melindungi posisi profesional, bukan semata-mata bentuk penolakan terhadap teknologi baru.
Di sinilah letak persoalan yang perlu dipahami oleh manajemen. Perusahaan sering menganggap rendahnya penggunaan AI sebagai masalah kepercayaan karyawan terhadap teknologi atau kegagalan program transformasi digital. Padahal, karyawan mungkin sebenarnya percaya bahwa sistem tersebut memiliki kemampuan analisis yang baik. Mereka hanya belum yakin bahwa perusahaan akan melindungi dan mendukung keputusan mereka ketika rekomendasi AI diikuti tetapi hasilnya tidak sesuai harapan.
Masalah Sebenarnya Ada pada Wewenang dan Akuntabilitas
Dalam organisasi tradisional, pembagian tanggung jawab relatif mudah dipahami. Manajer mengambil keputusan, karyawan melaksanakan tugas, dan setiap pihak memiliki batas kewenangan yang telah ditentukan. Namun, kehadiran AI membuat pembagian tersebut menjadi lebih kompleks. Ketika mesin mulai memberikan rekomendasi atau bahkan mengambil keputusan secara otomatis, perusahaan harus menentukan apakah AI hanya berfungsi sebagai alat bantu, menjadi pihak yang menentukan keputusan, atau memiliki kewenangan untuk menjalankan proses tertentu tanpa persetujuan manusia.
Masalah muncul ketika perusahaan menginginkan efisiensi dari otomatisasi, tetapi tetap mempertahankan seluruh struktur tanggung jawab seperti sebelum AI digunakan. Karyawan diminta mempercayai rekomendasi sistem, sementara hak untuk mengambil keputusan dan risiko yang muncul dari keputusan tersebut masih dibebankan kepada mereka. Akibatnya, AI hanya menjadi penasihat yang memberikan rekomendasi, bukan bagian nyata dari proses pengambilan keputusan. Perusahaan mungkin memiliki teknologi canggih, tetapi cara kerjanya tidak banyak berubah karena manusia tetap memegang kendali penuh.
Menurut Narayandas, jika perusahaan benar-benar ingin menjadikan AI sebagai bagian yang memiliki kewenangan dalam pengambilan keputusan, maka wewenang dan akuntabilitas harus dirancang ulang. Artinya, perusahaan perlu menentukan siapa yang berhak membuat keputusan, siapa yang bertanggung jawab atas hasilnya, serta dalam kondisi apa manusia diperbolehkan mengintervensi rekomendasi AI. Pembagian tersebut harus dijelaskan sejak awal agar karyawan tidak berada dalam situasi ketika mereka diminta mengikuti teknologi, tetapi tetap menanggung seluruh konsekuensi dari keputusan yang dihasilkan.
Perubahan ini juga perlu tercermin dalam sistem evaluasi kinerja dan insentif. Jika karyawan dinilai hanya berdasarkan hasil akhir tanpa mempertimbangkan apakah mereka mengikuti prosedur dan informasi yang tersedia, mereka cenderung memilih keputusan yang paling aman bagi dirinya sendiri. Sebaliknya, perusahaan dapat membangun mekanisme evaluasi yang mempertimbangkan kualitas proses pengambilan keputusan, kepatuhan terhadap kebijakan, serta alasan yang mendasari intervensi terhadap AI. Dengan demikian, karyawan memiliki kejelasan mengenai tindakan yang diharapkan dan perlindungan yang tersedia ketika mereka menjalankan kewenangannya.
Hal lain yang perlu diperhatikan adalah batas intervensi manusia. Tidak semua rekomendasi AI harus diterima tanpa pemeriksaan, terutama dalam keputusan yang memiliki dampak besar terhadap pelanggan, keuangan, atau reputasi perusahaan. Manajemen perlu menetapkan situasi yang mengharuskan pemeriksaan manusia, misalnya ketika sistem menemukan data yang tidak lengkap, mendeteksi risiko di luar pola normal, atau memberikan rekomendasi yang bertentangan dengan kebijakan perusahaan. Dengan aturan yang jelas, intervensi manusia menjadi bagian dari tata kelola yang dirancang secara sengaja, bukan keputusan spontan karena ketidakpercayaan terhadap teknologi.
Membangun Kepercayaan AI Dimulai dari Perubahan Cara Perusahaan Bekerja
Salah satu kesalahan dalam transformasi AI adalah menganggap bahwa penerapan teknologi dapat dilakukan hanya dengan menyediakan perangkat lunak, memberikan pelatihan, dan meminta seluruh karyawan menggunakannya. Pendekatan tersebut mengabaikan kenyataan bahwa teknologi dapat mengubah hubungan antara manusia, tanggung jawab, dan proses pengambilan keputusan. Karyawan yang sebelumnya memiliki kewenangan tertentu mungkin harus menyesuaikan perannya ketika sebagian tugas mulai dijalankan oleh sistem otomatis. Jika perubahan ini tidak dijelaskan dengan baik, AI dapat dipandang sebagai ancaman terhadap posisi profesional atau sumber risiko baru dalam pekerjaan.
Karena itu, perusahaan perlu melibatkan karyawan dalam proses perancangan penerapan AI. Mereka harus memahami bagaimana sistem bekerja, jenis data yang digunakan, batas kemampuan teknologi, serta kondisi yang dapat menyebabkan rekomendasinya tidak tepat. Transparansi tersebut penting agar karyawan tidak hanya diminta menggunakan sistem yang hasilnya sulit mereka pahami. Pada saat yang sama, manajemen juga perlu membuka ruang bagi karyawan untuk mempertanyakan atau melaporkan rekomendasi yang dianggap tidak sesuai. Kepercayaan tidak dibangun dengan memaksa orang menerima teknologi, tetapi dengan memastikan bahwa teknologi tersebut dapat dipertanggungjawabkan.
Kepemimpinan perusahaan juga memiliki peran penting dalam memastikan perubahan ini berjalan. CEO dan jajaran manajemen tidak cukup hanya mengumumkan target peningkatan penggunaan AI atau efisiensi yang ingin dicapai. Mereka harus memberikan contoh mengenai bagaimana keputusan berbasis AI digunakan dalam organisasi dan bagaimana tanggung jawab dibagi ketika hasilnya tidak sesuai harapan. Jika manajemen sendiri masih mengabaikan rekomendasi sistem tanpa alasan yang jelas, sulit mengharapkan karyawan untuk mempercayainya. Konsistensi antara kebijakan, tindakan pimpinan, dan sistem evaluasi akan menentukan apakah AI benar-benar menjadi bagian dari budaya kerja perusahaan.
Di sisi lain, perusahaan juga harus memahami bahwa tidak semua keputusan cocok diserahkan sepenuhnya kepada AI. Untuk keputusan rutin yang memiliki pola data jelas dan risiko relatif terkendali, otomatisasi dapat memberikan manfaat besar. Namun, keputusan yang melibatkan pertimbangan etika, kondisi manusia, atau konsekuensi strategis yang kompleks mungkin tetap membutuhkan keterlibatan profesional. Tujuannya bukan menggantikan seluruh penilaian manusia, melainkan menentukan pembagian peran yang paling efektif antara kemampuan analisis mesin dan pertimbangan manusia.
Pada akhirnya, keberhasilan transformasi AI tidak hanya ditentukan oleh seberapa canggih sistem yang digunakan atau seberapa akurat rekomendasi yang dihasilkan. Perusahaan juga harus membangun struktur organisasi yang memungkinkan teknologi tersebut digunakan secara efektif dan bertanggung jawab. Karyawan perlu mengetahui kapan mereka harus mengikuti rekomendasi AI, kapan boleh melakukan intervensi, dan bagaimana tanggung jawab dibagi ketika keputusan menghasilkan konsekuensi tertentu. Tanpa kejelasan tersebut, investasi AI berisiko hanya menghasilkan teknologi yang mahal tetapi tidak dimanfaatkan secara maksimal. Tantangan terbesar perusahaan di era AI mungkin bukan lagi bagaimana membuat mesin semakin pintar, melainkan bagaimana membangun organisasi yang mampu mempercayai, mengelola, dan bertanggung jawab atas keputusan yang dihasilkan bersama mesin.