(Business Lounge Journal – News and Insight)
Pada perdagangan Senin (14/9), saham-saham perusahaan yang berkaitan dengan artificial intelligence (AI) mengalami penurunan. Kondisi ini menunjukkan bahwa investor saat ini menghadapi beberapa kekhawatiran sekaligus: masa depan industri AI, kenaikan harga energi, serta kemungkinan suku bunga Amerika Serikat tetap tinggi.
Namun, ada satu hal yang menarik perhatian pasar: bukan hanya investor yang mulai mempertanyakan arah perkembangan AI. Para pemimpin perusahaan AI sendiri mulai memperdebatkan seberapa cepat teknologi ini seharusnya dikembangkan.
Ada beberapa hal yang terjadi sebelumnya.
Dalam beberapa hari terakhir, sejumlah nama besar di industri AI mulai menyampaikan kekhawatiran bahwa perkembangan AI sudah berjalan terlalu cepat dan membutuhkan pengawasan yang lebih kuat.
Dario Amodei, CEO Anthropic, menjadi salah satu tokoh yang paling jelas menyuarakan hal tersebut. Dalam sebuah esai, Amodei menyerukan agar industri memperlambat laju pengembangan AI generasi terdepan dan memberikan lebih banyak waktu untuk memastikan teknologi tersebut aman. Menurut Amodei, perkembangan AI dalam beberapa bulan terakhir meningkat sangat cepat. Salah satu alasannya adalah AI kini semakin mampu membantu membangun generasi AI berikutnya. Artinya, perkembangan teknologi dapat berlangsung semakin cepat dari sebelumnya. Amodei juga menyoroti sebuah insiden keamanan siber pada Juli lalu, ketika sistem AI melakukan serangan terhadap perusahaan teknologi. Menurutnya, kejadian tersebut menunjukkan bagaimana kemampuan AI yang semakin besar dapat membawa risiko jika tidak disertai pengamanan yang memadai.
Karena itu, Amodei mengusulkan beberapa langkah, antara lain pengujian keamanan yang lebih kuat, evaluasi oleh pihak independen, serta kerja sama antarperusahaan dan antarnegara.
Seruan Amodei mendapat dukungan tak terduga
Yang membuat isu ini semakin menarik adalah siapa saja yang kemudian mendukung Amodei.
Sam Altman, CEO OpenAI, mengatakan bahwa ia setuju dengan gagasan untuk memperlambat perkembangan AI generasi terdepan. Altman juga mengatakan OpenAI akan mempertimbangkan penggunaan evaluator independen untuk menguji keamanan model AI mereka.
Elon Musk juga memberikan dukungan singkat terhadap pernyataan Amodei.
Dario is right,” tulis Musk dalam responsnya.
Dukungan tersebut cukup menarik karena ketiga tokoh ini bukan selalu berada di sisi yang sama dalam persaingan AI.
Washington Post menyebut dukungan dari Amodei, Altman dan Musk sebagai tanda meningkatnya kekhawatiran di tingkat tertinggi industri AI terhadap perkembangan teknologi yang dianggap terlalu cepat. Media lain juga melihat perkembangan ini sebagai perubahan penting. Axios menggambarkannya sebagai para CEO AI paling berpengaruh yang mulai “hit the brakes”, sementara Ars Technica menyoroti perubahan sikap setelah bertahun-tahun industri AI berlomba mengembangkan teknologi secepat mungkin. Dengan kata lain, perdebatan mengenai AI sekarang bukan lagi hanya soal seberapa cepat AI bisa berkembang, tetapi juga apakah manusia mampu mengendalikan perkembangan tersebut.
Dampaknya mulai terasa di pasar
Pernyataan tersebut ikut membuat investor lebih berhati-hati terhadap saham perusahaan teknologi.
Nvidia, salah satu perusahaan yang paling terkait dengan perkembangan AI, turun sekitar 3,4 persen. Di Jepang, saham SoftBank juga turun sekitar 10,7 persen. Saham perusahaan teknologi lainnya ikut mengalami tekanan.
Selama beberapa tahun terakhir, optimisme terhadap AI menjadi salah satu pendorong utama kenaikan pasar saham. Investor melihat AI sebagai teknologi yang dapat menciptakan bisnis baru, meningkatkan produktivitas dan menghasilkan keuntungan besar. Namun, ketika para pemimpin industri sendiri mulai berbicara mengenai risiko dan kemungkinan perlunya memperlambat perkembangan AI, investor mulai mempertanyakan apakah investasi besar-besaran pada AI akan terus berlangsung dengan kecepatan yang sama.
Pertanyaan tersebut penting karena investasi AI saat ini bukan lagi dalam jumlah kecil. Perusahaan teknologi mengeluarkan dana sangat besar untuk chip, data center, energi, dan infrastruktur yang dibutuhkan untuk menjalankan AI.
Jika perkembangan AI benar-benar diperlambat, dampaknya tidak hanya dirasakan oleh perusahaan pembuat AI, tetapi juga oleh seluruh rantai bisnis yang selama ini tumbuh karena AI.
Tetapi ada sisi yang sangat menarik: tidak semua CEO setuju
Di sinilah cerita ini menjadi lebih menarik bagi dunia bisnis. Ketika sejumlah pemimpin AI mulai berbicara tentang perlunya memperlambat perkembangan teknologi, Jensen Huang, CEO Nvidia, justru mengambil posisi berbeda. Dalam pertemuannya dengan Presiden Donald Trump, Huang mengatakan bahwa Nvidia tidak ingin membiarkan terjadi perlambatan dalam perkembangan AI. Ia melihat kebutuhan terhadap AI masih sangat besar dan Nvidia akan terus mendorong perkembangan teknologi tersebut. Pandangan tersebut sejalan dengan posisi pemerintahan Trump.
Trump menolak kekhawatiran mengenai risiko AI yang dianggapnya berlebihan. Bagi pemerintah AS, AI bukan hanya persoalan bisnis dan teknologi, tetapi juga bagian dari persaingan strategis dengan China. Jika Amerika Serikat memperlambat pengembangan AI sementara China terus bergerak cepat, Washington khawatir posisi Amerika dalam perlombaan teknologi global dapat melemah.
Washington Post juga melaporkan bahwa sejumlah perusahaan AI besar telah membahas kemungkinan membentuk lembaga baru yang fokus pada keselamatan AI, sementara Trump tetap menolak gagasan untuk memperlambat perkembangan industri tersebut.
Dua pandangan mulai terlihat
Perkembangan ini menunjukkan munculnya dua pandangan yang berbeda dalam industri AI.
Pace the Frontier — AI perlu dikembangkan dengan lebih hati-hati
Pandangan ini menekankan bahwa perkembangan AI harus tetap berjalan, tetapi dengan pengujian keamanan, pengawasan dan aturan yang lebih kuat.
Nama-nama yang secara terbuka mendukung gagasan ini antara lain:
- Anthropic – Dario Amodei
- OpenAI – Sam Altman
- Elon Musk
Mereka tidak mengatakan bahwa AI harus dihentikan. Yang mereka dorong adalah agar perkembangan teknologi tidak berjalan lebih cepat daripada kemampuan manusia untuk memahami dan mengendalikannya.
Keep the AI Race Moving — Jangan sampai AI melambat
Di sisi lain, ada pandangan bahwa perlombaan AI harus terus berjalan. Nvidia – Jensen Huang menjadi salah satu suara paling jelas dalam kelompok ini. Pemerintahan Trump juga melihat AI sebagai bagian penting dari persaingan teknologi Amerika Serikat dengan China.
Bagi kelompok ini, memperlambat AI dapat berarti memberikan kesempatan kepada pesaing untuk mengejar ketertinggalan.
Sekarang bukan soal berhenti atau tidak berhenti
Namun, perdebatan ini sebenarnya tidak sesederhana memilih antara “AI lanjut” atau “AI berhenti.” Bahkan Amodei sendiri tidak menyerukan agar AI dihentikan. Ia justru mengatakan perkembangan AI tetap dapat memberikan manfaat besar bagi manusia, tetapi membutuhkan pengamanan yang lebih baik. Yang sedang diperdebatkan adalah kecepatan. Seberapa cepat perusahaan boleh mengembangkan model AI baru? Seberapa besar risiko yang dapat diterima? Siapa yang harus menguji keamanan AI? Dan yang paling penting, siapa yang bertanggung jawab jika AI menjadi terlalu kuat untuk dikendalikan?
Pertanyaan-pertanyaan inilah yang sekarang mulai masuk ke dalam pertimbangan bisnis dan investasi.
Sekarang perlombaan AI sedang memasuki babak baru.
Selama beberapa tahun terakhir, cerita tentang AI hampir selalu berbicara mengenai pertumbuhan: model yang semakin pintar, investasi yang semakin besar, data center yang semakin banyak dan valuasi perusahaan yang semakin tinggi. Kini, muncul cerita baru. Bagaimana jika AI berkembang terlalu cepat?
Menariknya, pertanyaan tersebut tidak hanya datang dari pemerintah, akademisi atau kelompok yang kritis terhadap teknologi. Pertanyaan itu mulai datang dari orang-orang yang berada di pusat industri AI sendiri. Di sisi lain, kebutuhan bisnis terhadap AI tetap sangat besar. Perusahaan seperti Nvidia melihat peluang ekonomi yang masih sangat luas, sementara pemerintah AS melihat AI sebagai aset strategis dalam persaingan global. Karena itu, kemungkinan besar perlombaan AI tidak akan berhenti. Tetapi aturan mainnya mungkin mulai berubah.
Pasar sekarang tidak hanya akan menilai siapa yang memiliki AI paling canggih, tetapi juga siapa yang mampu membangun AI yang aman, menguntungkan dan dapat dipertanggungjawabkan. Dan bagi dunia bisnis, inilah pertanyaan yang mungkin akan semakin penting ke depan: Bukan lagi “How fast can AI grow?” tetapi “How fast should AI grow?”