(Business Lounge Journal – News and Insight)
Di tengah euforia global terhadap kecerdasan buatan (Artificial Intelligence/AI), CEO Anthropic, Dario Amodei, justru mengirimkan peringatan keras. Bukan lewat wawancara singkat atau pernyataan pers, melainkan melalui sebuah esai sepanjang 38 halaman berjudul “The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI.”
Pesannya jelas: dunia sedang memasuki fase berbahaya, di mana kekuatan AI berkembang jauh lebih cepat dibandingkan kesiapan sistem sosial, politik, dan ekonomi manusia untuk mengelolanya.
Amodei menggambarkan momen ini sebagai “rite of passage” bagi umat manusia—sebuah fase penuh gejolak yang tak terhindarkan. Kita akan segera memegang kekuatan yang hampir tak terbayangkan, namun belum tentu memiliki kedewasaan kolektif untuk menggunakannya dengan bijak.
Negara Para Jenius di Dalam Pusat Data
Salah satu metafora paling kuat dalam esai ini adalah gambaran tentang “a country of geniuses in a datacenter.” Bayangkan jutaan sistem AI yang lebih cerdas dari peraih Nobel, bekerja dengan kecepatan mesin, berkoordinasi tanpa lelah, dan semakin mampu bertindak di dunia nyata.
Masalah utamanya bukan semata soal etika, melainkan soal konsentrasi kekuatan. Ketika kemampuan luar biasa terkumpul di segelintir institusi atau negara, risiko strategis muncul lebih cepat daripada mekanisme pengawasan. Kekuasaan tumbuh lebih cepat daripada institusi yang seharusnya mengendalikannya.
Lima Risiko Besar AI Menurut Amodei
Amodei memetakan risiko AI ke dalam lima kategori utama:
-
Otonomi AI
Sistem yang makin mandiri berpotensi bertindak di luar kendali manusia. -
Penyalahgunaan oleh Individu
Terutama di bidang biologi dan senjata, di mana AI bisa mempercepat eksperimen berbahaya. -
Penyalahgunaan oleh Negara
Khususnya rezim otoriter yang dapat menggunakan AI untuk pengawasan massal dan kontrol sosial. -
Disrupsi Ekonomi
Pasar tenaga kerja berisiko terguncang besar-besaran, dengan ketimpangan yang makin melebar. -
Dampak Tidak Langsung
Perubahan budaya, psikologis, dan sosial yang terjadi lebih cepat daripada kemampuan masyarakat membentuk norma baru.
Benang merahnya satu: tidak ada pihak yang benar-benar bisa mengawasi dirinya sendiri. Perusahaan AI terjebak dalam perlombaan komersial. Pemerintah tergoda oleh pertumbuhan ekonomi dan keunggulan militer. Sementara mekanisme etik sukarela dan kepercayaan publik terlalu rapuh untuk menahan laju ini.
AI Tinggal 1–2 Tahun Lagi?
Peringatan paling mengkhawatirkan datang ketika Amodei menyebut bahwa AI berdaya sangat tinggi bisa hadir dalam 1–2 tahun ke depan. Ia bahkan menyebutnya sebagai “ancaman keamanan nasional paling serius dalam satu abad terakhir—mungkin sepanjang sejarah.”
Di sisi lain, Amodei juga percaya AI dapat membawa lompatan luar biasa dalam sains, kesehatan, dan kesejahteraan manusia. Namun tanpa tata kelola yang matang, manfaat itu bisa berubah menjadi alat perusak, memperkuat otoritarianisme, dan memecah struktur pasar kerja.
Solusi yang Tidak Seksi, tapi Penting
Menariknya, solusi yang ditawarkan Amodei justru jauh dari kata sensasional:
- Undang-undang transparansi AI
- Pembatasan ekspor chip canggih
- Kewajiban pengungkapan perilaku model
- Regulasi bertahap untuk “membeli waktu”, bukan menghentikan inovasi
Ia menolak pelarangan besar-besaran dan mengkritik apa yang ia sebut sebagai “safety theater”—kebijakan simbolis yang terlihat aman, tapi kosong secara substansi. Menurutnya, regulasi AI harus sempit, berbasis bukti, dan—kalau perlu—membosankan.
Paradoks di Balik Peringatan
Namun di sinilah letak paradoksnya. Amodei adalah CEO perusahaan AI frontier. Ia memperingatkan tentang jebakan insentif triliunan dolar AI, sambil tetap ikut berlomba di dalamnya. Di hari yang sama esainya dirilis, chatbot Claude milik Anthropic juga mendapat pembaruan fitur baru.
Ia menyebut kondisi ini sebagai “the trap.” Dan memang benar—jebakan itu nyata. Tapi Amodei juga berdiri di dalamnya, sambil terus menarik pendapatan.
Catatan untuk Dunia Bisnis
Bagi pelaku bisnis, pesan Amodei relevan dan mendesak. AI bukan sekadar alat efisiensi atau tren teknologi. Ia adalah kekuatan strategis yang bisa membentuk ulang struktur industri, tenaga kerja, bahkan tatanan geopolitik.
Pertanyaannya bukan lagi apakah AI akan digunakan, melainkan seberapa siap kita mengelolanya—dengan tata kelola, etika, dan strategi jangka panjang yang matang.
Karena dalam perlombaan ini, kecepatan tanpa kebijaksanaan bisa menjadi risiko terbesar.