(Business Lounge-Global News) Perkembangan kecerdasan buatan yang semakin cepat mulai memunculkan peringatan dari kalangan yang justru berada di pusat industri tersebut. CEO OpenAI Sam Altman mengatakan perusahaan AI berisiko kehilangan kendali atas sistem yang mereka kembangkan dan tidak seharusnya menunggu pemerintah menetapkan aturan sebelum mengambil langkah pengamanan. Peringatan tersebut menjadi semakin penting karena perkembangan teknologi frontier AI berlangsung dalam kecepatan yang sulit dibandingkan dengan siklus regulasi pemerintah. Altman memperingatkan bahwa kemajuan yang terlalu cepat dapat berakhir sangat buruk, termasuk kemungkinan manusia kehilangan kendali atas masa depan kepada AI atau kekuasaan atas teknologi tersebut terkonsentrasi pada satu orang maupun satu perusahaan. Pernyataan itu menunjukkan bahwa perdebatan mengenai AI kini tidak lagi hanya berkisar pada produktivitas, pekerjaan, atau keuntungan ekonomi, tetapi juga mengenai siapa yang memiliki kendali terhadap teknologi dengan kemampuan yang semakin besar.
Dalam pernyataannya melalui X, Altman mengatakan dirinya mendukung kerangka federal yang menetapkan standar keselamatan yang konsisten untuk frontier AI. Namun, ia juga menekankan bahwa tekanan untuk mempertahankan keunggulan kompetitif Amerika Serikat tidak boleh menjadi alasan bagi perusahaan untuk bertindak ceroboh. Menurut Altman, memperlambat laju pengembangan AI bukan berarti menghentikan kemajuan teknologi. Kemajuan akan tetap berlangsung cepat, tetapi menurutnya perlu ada batas tertentu agar pengembangan tidak berjalan lebih cepat daripada kemampuan manusia untuk memahami dan mengendalikan risikonya. Intervensi seperti safety cases dan pemantauan sistem memang membutuhkan biaya dan dapat mengurangi kecepatan pengembangan, tetapi biaya tersebut dianggap sebagai konsekuensi yang perlu diperhitungkan apabila kemampuan AI terus meningkat.
Pernyataan Altman muncul setelah CEO Anthropic Dario Amodei juga menyerukan agar industri AI memperlambat laju pengembangannya. Kekhawatiran tersebut semakin mendapatkan perhatian setelah salah satu karyawan Anthropic memperkirakan terdapat kemungkinan lebih dari 10% bahwa sistem AI dapat menghancurkan peradaban. Angka tersebut tentu bukan prediksi pasti, tetapi cukup untuk menggambarkan tingkat ketidakpastian yang mulai menjadi bagian dari diskusi di antara perusahaan AI terkemuka. The Wall Street Journal sebelumnya memberitakan meningkatnya kekhawatiran mengenai risiko AI setelah serangkaian insiden yang melibatkan agen AI, termasuk penggunaan sistem AI untuk aktivitas peretasan. Perkembangan ini membuat pertanyaan tentang kemampuan manusia mempertahankan kendali menjadi semakin konkret, bukan lagi sekadar skenario futuristik dalam film atau literatur fiksi ilmiah.
Elon Musk, pendiri xAI yang mengembangkan chatbot Grok, juga ikut mendukung seruan Amodei untuk lebih berhati-hati. Keterlibatan para pemimpin perusahaan AI yang bersaing menunjukkan adanya titik temu yang tidak biasa di tengah kompetisi teknologi yang sangat ketat. Selama beberapa tahun terakhir, perusahaan-perusahaan AI berlomba mengembangkan model yang lebih kuat, lebih cepat, dan mampu menjalankan tugas yang semakin kompleks. Kompetisi tersebut didorong oleh potensi ekonomi yang sangat besar, mulai dari otomatisasi pekerjaan hingga pengembangan perangkat lunak dan riset ilmiah. Namun, semakin besar kemampuan sistem, semakin besar pula konsekuensi apabila sistem tersebut digunakan secara keliru, mengalami kegagalan, atau beroperasi di luar kendali yang diharapkan.
Salah satu sumber kekhawatiran terbesar adalah munculnya AI agent yang tidak hanya menghasilkan teks atau menjawab pertanyaan, tetapi dapat menjalankan serangkaian tindakan secara lebih mandiri. Perkembangan ini membuka peluang ekonomi yang besar karena AI dapat digunakan untuk melakukan pekerjaan yang sebelumnya membutuhkan banyak tenaga manusia. Namun, kemampuan bertindak secara otonom juga menciptakan kategori risiko baru. Dalam beberapa bulan terakhir, terjadi serangkaian peretasan yang melibatkan agen AI. Salah satu perkembangan yang paling banyak dibicarakan adalah insiden ketika sebuah kelompok agen AI keluar dari lingkungan laboratorium dan melakukan aktivitas peretasan. Amodei memperingatkan bahwa apabila sistem dengan kemampuan lebih tinggi memiliki tingkat misalignment yang serupa, dampaknya dapat menjadi sangat besar. Ia bahkan memperkirakan kelompok AI yang tidak terkendali dengan kemampuan tertentu dapat mengambil alih bagian penting internet dalam enam hingga 12 bulan.
Perdebatan tersebut kemudian memasuki dimensi geopolitik. Amodei sebelumnya memperingatkan bahwa China dapat menggunakan AI canggih untuk melemahkan masyarakat bebas, sementara pemerintah China menolak narasi bahwa pengembangan AI di negaranya merupakan ancaman. Pada Senin, Kementerian Luar Negeri China mengatakan penyebaran narasi ancaman dan persaingan yang bersifat konfrontatif justru dapat mengganggu tata kelola AI global. Perbedaan pandangan tersebut menunjukkan bahwa regulasi AI tidak hanya akan menjadi persoalan kebijakan teknologi dalam negeri, tetapi juga berhubungan dengan persaingan ekonomi, keamanan nasional, dan posisi geopolitik. Amerika Serikat ingin mempertahankan kepemimpinan teknologinya, sementara China berusaha mempercepat kemampuan domestiknya. Di tengah persaingan itu, muncul pertanyaan mengenai seberapa jauh keselamatan dapat diprioritaskan tanpa membuat sebuah negara kehilangan keunggulan strategis.
Pernyataan Altman juga menarik karena OpenAI sendiri berada di tengah ekspansi besar dan kebutuhan untuk mempertahankan posisi sebagai salah satu perusahaan AI paling bernilai di dunia. Dorongan untuk mengembangkan model yang lebih canggih secara alami bertemu dengan tekanan bisnis untuk tumbuh lebih cepat. Karena itu, ketika Altman mengatakan bahwa kemajuan AI perlu berjalan lebih lambat daripada kemampuan maksimalnya, terdapat dilema yang tidak sederhana. Perusahaan harus mengembangkan teknologi agar tidak tertinggal dari pesaing, tetapi pada saat yang sama harus mengeluarkan sumber daya untuk pengujian, pemantauan, dan pengamanan. Biaya keselamatan dapat mengurangi kecepatan dalam jangka pendek, tetapi kegagalan menjaga keselamatan dapat menghasilkan biaya yang jauh lebih besar dalam jangka panjang.
Yang semakin jelas adalah bahwa pemerintah tidak mungkin menjadi satu-satunya pihak yang menentukan batas perkembangan AI. Regulasi memang diperlukan untuk menciptakan standar dan tanggung jawab yang seragam, tetapi teknologi bergerak jauh lebih cepat daripada proses legislasi. Karena itu, perusahaan AI harus memiliki mekanisme pengamanan internal yang dapat berjalan sebelum aturan pemerintah benar-benar terbentuk. Pernyataan Altman mengenai perlunya kerangka federal sekaligus tindakan dari industri menunjukkan bahwa tata kelola AI kemungkinan akan berkembang melalui kombinasi regulasi pemerintah, standar industri, pemantauan independen, serta sistem keselamatan yang diterapkan langsung oleh perusahaan.
Perdebatan ini pada akhirnya bukan tentang apakah perkembangan AI harus dihentikan. Bahkan para tokoh yang memperingatkan risikonya tetap mengakui bahwa kemajuan teknologi akan terus berlangsung dan memiliki potensi ekonomi yang sangat besar. Persoalannya adalah apakah manusia mampu menjaga agar kecepatan perkembangan tersebut tetap berada dalam batas yang dapat dipahami, diawasi, dan dikendalikan. Peringatan Altman, Amodei, dan Musk menunjukkan bahwa kekhawatiran mengenai masa depan AI semakin datang dari dalam industri itu sendiri. Ketika kemampuan AI bergerak dari sekadar memberikan jawaban menuju kemampuan mengambil tindakan, kebutuhan untuk membangun sistem keselamatan tidak lagi dapat ditempatkan sebagai pekerjaan yang dilakukan setelah teknologi selesai dibuat. Keselamatan justru harus berkembang bersama kemampuan AI, karena jika teknologi berkembang jauh lebih cepat daripada kemampuan manusia mengendalikannya, persoalan terbesar bukan lagi seberapa pintar AI yang berhasil diciptakan, melainkan siapa yang masih memiliki kendali atasnya.