(Business Lounge Journal – General Management)
Seperti yang telah kita bahas pada artikel sebelumnya bahwa ketergantungan berlebihan pada kecerdasan buatan (AI) tidak hanya membawa manfaat efisiensi, tetapi juga dapat melemahkan kemampuan berpikir kritis manusia. Sebuah studi terbaru oleh Microsoft dan Carnegie Mellon University (2024) menemukan bahwa semakin manusia mengandalkan AI, semakin sedikit mereka menggunakan keterampilan analitis mereka, yang pada akhirnya dapat menurunkan kapasitas mereka dalam memecahkan masalah secara mandiri. (Baca lebih lanjut: Studi Microsoft: Terlalu Mengandalkan AI Bisa Membunuh Kemampuan Berpikir Kritis).
Di sisi lain, AI agentif—versi kecerdasan buatan yang lebih canggih dan otonom—dapat menghadirkan tantangan baru dalam membangun kepercayaan pengguna terhadap teknologi ini. Tanpa kepercayaan yang kuat, orang cenderung enggan mengadopsi atau merekomendasikan teknologi ini kepada orang lain.
Perubahan Dramatis dalam Interaksi Manusia dan AI
Menurut Harvard Business Review (2024), cara manusia berinteraksi dan berkolaborasi dengan AI telah mengalami perubahan besar dengan hadirnya AI agentif. Teknologi ini memiliki kemampuan penalaran dan eksekusi yang lebih tinggi, menjanjikan transformasi dalam berbagai aspek kolaborasi manusia-mesin. Namun, meskipun potensinya besar, AI agentif masih menghadapi skeptisisme dari banyak pihak, terutama di kalangan pekerja.
Kekhawatiran Pekerja terhadap AI Agentif
Sebuah survei yang dilakukan oleh YouGov untuk Pegasystems pada November 2024 terhadap lebih dari 2.100 pekerja di AS dan Inggris mengungkapkan beberapa kekhawatiran utama:
- 33% khawatir tentang kualitas pekerjaan yang dihasilkan oleh AI.
- 32% menyoroti kurangnya intuisi manusia dan kecerdasan emosional dalam AI.
- 30% tidak mempercayai keakuratan respons AI yang mereka terima.
Survei ini juga menemukan bahwa 58% pekerja sudah menggunakan AI agentif untuk berbagai tugas. Namun, angka ini menunjukkan bahwa ada sebagian besar lainnya yang masih ragu-ragu atau enggan mengadopsi teknologi ini sepenuhnya.
Lebih lanjut, penelitian ini mengungkapkan bahwa:
- 47% percaya AI kekurangan intuisi manusia dan kecerdasan emosional.
- 40% tidak nyaman menyerahkan pekerjaan yang dihasilkan AI.
- 34% khawatir bahwa hasil kerja AI tidak sebaik hasil kerja mereka sendiri.
Temuan ini menegaskan bahwa adopsi AI agentif harus dilakukan secara bijaksana, dengan mempertimbangkan kekhawatiran pekerja agar transisi ke penggunaan teknologi ini lebih mulus.
Bagi perusahaan, ada risiko tersendiri dalam mengandalkan AI secara berlebihan. Di antaranya adalah peningkatan beban kerja dan stres bagi karyawan serta rasa percaya diri yang berlebihan terhadap kesiapan organisasi dalam mengadopsi teknologi AI. Jika AI tidak diintegrasikan dengan strategi yang matang, perusahaan bisa menghadapi lebih banyak masalah daripada manfaat yang didapat.
Pendapat Para Ahli dan CEO
Para ahli AI dan pemimpin industri juga memberikan berbagai pandangan mengenai penerapan AI agentif:
- Jonathan Feniak yang adalah seorang pengacara, pada tahun 2024 ia berbicara tentang berbicara tentang dampak AI dalam bidang hukum. Salah satu statementnya: “Sampai AI dapat menjamin pengambilan keputusan yang etis dan kepatuhan 100%, setiap bisnis harus mengadopsinya dengan hati-hati, mengauditnya dengan ketat, dan mengesampingkannya sesuai kebutuhan.” Dalam penjelasannya, Feniak menjabarkan bagaimana AI dapat mengotomatisasi tugas-tugas rutin dalam praktik hukum, seperti peninjauan kontrak, yang memungkinkan timnya untuk fokus pada isu-isu yang lebih kompleks dan meningkatkan kualitas layanan mereka.
- Elle Ferrell-Kingsley disebut sebagai AI ethics expert, pada tahun 2024 mendapatkan penghargaan 100 Brilliant Women di AI Ethics dari TechWomen100 Award dan the Lord Blunkett Award dari the University of Law. Elle mengatakan bahwa para eksekutif harus mendekati solusi AI dengan hati-hati, terutama alat gratis atau pasar massal. Alat AI publik sering kali membawa risiko besar terkait data perusahaan yang sensitif.
- David Radin, CEO Confirmed yang juga dikenal sebagai penulis buku “Time Management in the Age of A.I, mengatakan, ”Apakah seorang eksekutif mempercayai AI atau tidak, mereka tetap harus memiliki kebijakan dan prosedur yang jelas dalam penggunaannya.”
Kebijakan dan Regulasi dalam Adopsi AI
Lalu bagaimana seharusnya respons perusahaan terhadap AI? Kebijakan yang mengatur penggunaan AI dalam perusahaan sangat penting untuk memastikan bahwa teknologi ini digunakan secara etis dan efektif. Kebijakan AI yang baik harus mencakup:
- Standar etika dan kepatuhan dalam penggunaan AI.
- Mekanisme audit dan pengawasan teknologi AI.
- Pedoman tentang bagaimana AI dapat digunakan dalam pekerjaan sehari-hari.
- Proses pelatihan dan komunikasi yang berkelanjutan untuk memastikan pemahaman yang memadai di semua level organisasi.
Bagaimana dengan Indonesia?
Indonesia telah mengambil langkah-langkah untuk mengatur penggunaan kecerdasan buatan (AI), termasuk AI agentif, dengan fokus pada etika dan inovasi. Pada Desember 2023, Kementerian Komunikasi dan Informatika (Kominfo) menerbitkan Surat Edaran Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Surat edaran ini berfungsi sebagai pedoman bagi pelaku usaha dan penyelenggara sistem elektronik dalam merumuskan kebijakan internal terkait data dan etika AI, meskipun sifatnya masih sukarela.
Selain itu, pemerintah menekankan pendekatan berbasis risiko dalam pengembangan regulasi AI. Tujuannya adalah mendorong investasi dan inovasi, sambil memastikan perlindungan terhadap demokrasi, supremasi hukum, dan hak-hak fundamental, seperti kebebasan berpendapat.
Namun, hingga saat ini, Indonesia belum memiliki undang-undang khusus yang mengatur AI. Regulasi yang ada lebih bersifat pedoman etis dan belum mengikat secara hukum. Hal ini menimbulkan urgensi untuk membentuk kerangka hukum yang komprehensif guna mengatur implementasi AI secara lebih tegas dan terarah.
Dalam upaya menjaga implementasi AI yang beretika, Komite Nasional Indonesia untuk UNESCO (KNIU) berkomitmen memantau penerapan AI sesuai dengan rekomendasi UNESCO yang dipublikasikan pada tahun 2021. KNIU bekerja sama dengan berbagai pemangku kepentingan, termasuk Kominfo, untuk memastikan program pengembangan AI di Indonesia berjalan sesuai dengan prinsip-prinsip etika yang telah ditetapkan.
Secara keseluruhan, meskipun telah ada upaya untuk mengatur penggunaan AI melalui pedoman etis dan pendekatan berbasis risiko, Indonesia masih memerlukan regulasi yang lebih spesifik dan mengikat secara hukum untuk memastikan pemanfaatan AI, termasuk AI agentif, berjalan secara aman, etis, dan sesuai dengan nilai-nilai yang dijunjung tinggi oleh masyarakat.
Negara yang telah Memiliki Undang-undang Khusus
Beberapa negara telah mengadopsi undang-undang khusus untuk mengatur penggunaan kecerdasan buatan (AI). Berikut adalah beberapa di antaranya:
Uni Eropa: Pada Maret 2024, Parlemen Eropa mengesahkan “Artificial Intelligence Act”, sebuah regulasi komprehensif yang bertujuan melindungi hak-hak dasar, demokrasi, dan supremasi hukum dari risiko yang ditimbulkan oleh AI. Regulasi ini menetapkan kewajiban bagi sistem AI berdasarkan tingkat risikonya dan melarang aplikasi AI tertentu yang dianggap mengancam hak warga negara.
China: Mulai 15 Agustus 2023, China memberlakukan serangkaian langkah sementara yang mewajibkan penyedia layanan AI untuk menyerahkan penilaian keamanan dan memperoleh izin sebelum merilis produk AI ke pasar. Langkah ini bertujuan memastikan bahwa pengembangan dan penggunaan AI di China sesuai dengan standar keamanan dan etika yang ditetapkan pemerintah.
Selain itu, negara-negara lain seperti Amerika Serikat dan Inggris sedang dalam proses merumuskan regulasi terkait AI, meskipun belum ada undang-undang khusus yang disahkan hingga saat ini. Langkah-langkah ini mencerminkan upaya global untuk mengatur pengembangan dan implementasi AI secara bertanggung jawab, guna meminimalkan risiko dan memaksimalkan manfaat teknologi tersebut bagi masyarakat.
Setiap teknologi membawa risiko dan manfaatnya sendiri. Para pemimpin bisnis yang terlalu cepat mengadopsi AI agentif tanpa kesiapan yang memadai dapat menghadapi lebih banyak tantangan daripada solusi. Oleh karena itu, penting bagi organisasi untuk mendekati AI dengan strategi yang terukur, memastikan bahwa keandalan dan kepercayaan tetap menjadi prioritas utama dalam implementasi teknologi ini.