(Business Lounge Journal-News & Insight) Undang-undang keselamatan AI California telah dibatalkan menyusul veto Gubernur Gavin Newsom minggu lalu, tetapi bayangannya masih menghantui para pemimpin teknologi yang tinggal sekitar 3.000 mil jauhnya yang masih berbeda pendapat tentang seperti apa regulasi di masa mendatang. Sektor teknologi masih berbeda pendapat mengenai apakah Newsom melakukan kesalahan dengan menggunakan vetonya, tetapi pengenalan dan kehancuran SB 1047 menimbulkan pertanyaan yang lebih besar, termasuk apakah regulasi harus menargetkan pembuat model AI atau aplikasi AI dan apakah regulasi harus lebih diarahkan oleh negara bagian atau lembaga federal. “Saya pikir kita harus lebih fokus pada penerapan AI, bukan pelatihan model AI dan pengoperasian model AI,” kata Aaron Levie, salah satu pendiri dan kepala eksekutif Box, di CIO Network Summit The Wall Street Journal di New York pada hari Selasa. Levie menambahkan bahwa dia menentang SB 1047 dan pemerintah tidak boleh mengambil risiko memperlambat laju inovasi AI. “Saat ini, kita membutuhkan kemajuan sebanyak mungkin yang dapat dicapai manusia,” katanya. Levie menambahkan bahwa hal itu khususnya terjadi karena ia yakin kita masih jauh dari segala jenis risiko eksistensial dari AI—meskipun hal itu masih diperdebatkan.
Sementara regulasi pastinya harus dibuat, Levie mengatakan regulasi itu harus lebih banyak datang dari masing-masing badan yang dirancang untuk mengatur pasar tertentu, seperti Para pemimpin teknologi bisnis mengakhiri dua tahun eksperimen kecerdasan buatan yang serba cepat di dalam perusahaan mereka dan menggunakan dana AI mereka untuk proyek-proyek yang terbukti berfokus pada laba atas investasi. “Ketika AI generatif muncul, ada sejumlah dana diskresioner yang dapat kami lihat untuk bereksperimen dan menguji beberapa teknologi,” kata Jonny LeRoy, kepala petugas teknologi pemasok industri W.W. Grainger. “Tetapi sebenarnya untuk meningkatkan skala melampaui beberapa eksperimen tersebut, kami melihat perlunya untuk benar-benar membuat kasus bisnis yang lebih baik.” Sementara para pemimpin teknologi sebelumnya mendapat restu dari pimpinan perusahaan untuk bereksperimen dengan AI secara bebas, “kemenangan untuk mengatasi rintangan eksperimen, bisnis perlu memastikan ada akses yang luas ke data perusahaan sehingga pembangun teknologi dapat menggunakannya untuk mengimplementasikan AI, kata Jim Siders, kepala petugas informasi perusahaan analitik data Palantir. “Begitulah cara Anda mendapatkan prototipe yang dapat digunakan yang Anda tahu sesuai dengan tujuannya, yang Anda tahu akan menggerakkan jarum pada bisnis,” katanya. Satu cara untuk mengetahui apakah jarum telah bergerak: alat berbasis AI harus dapat membuktikan nilainya dalam waktu kurang dari 12 bulan, kata Nicholas Parrotta, kepala petugas digital dan informasi dan presiden solusi transformasi digital di Harman. Itu dapat diukur dengan produktivitas karyawan yang lebih tinggi atau perolehan pendapatan, katanya. Administrasi Penerbangan Federal dan Administrasi Makanan dan Obat-obatan.
RUU California akan mengharuskan pengembang model AI besar untuk mengambil “tindakan pencegahan yang wajar” untuk memastikan bahwa teknologi mereka tidak menimbulkan “risiko yang tidak wajar untuk menyebabkan atau secara material memungkinkan bahaya kritis.” “Saya akan mengatakan bahwa secara politis dan substantif, Newsom salah” untuk memveto RUU tersebut, Bradley Tusk, salah satu pendiri dan kepala eksekutif Tusk Venture Partners, mengatakan di pertemuan puncak tersebut. Agar AI dapat berkembang menjadi industri bernilai miliaran dolar, “Anda harus memberi publik tingkat kepercayaan tertentu bahwa ada yang mengawasi hal ini,” kata Tusk, yang menyebut RUU tersebut sebagai langkah awal yang wajar untuk menyiapkan kerangka kerja intelektual guna mengurangi risiko dan kerugian. Meskipun mungkin tidak sempurna, kata Tusk, langkah yang lebih baik adalah meloloskan RUU tersebut dan kemudian RUU tambahan tahun depan. Ia juga mengatakan bahwa ia cenderung setuju dengan beberapa penentang RUU tersebut yang merasa regulasi harus lebih berfokus pada tingkat aplikasi daripada tingkat model. Arvind Narayanan, profesor di Universitas Princeton, direktur Pusat Kebijakan Teknologi Informasi di sekolah tersebut dan penulis “AI Snake Oil,” setuju.
Ada banyak kekhawatiran bahwa penyalahgunaan AI dalam sistem keuangan akan menyebabkan kepanikan di pasar—tetapi pasar tersebut telah diatur oleh lembaga federal dan telah diatur selama beberapa dekade, katanya di pertemuan puncak tersebut. “Saya banyak mengamati [Komisi Perdagangan Federal], khususnya perlindungan konsumen, dan mereka telah melakukan pekerjaan ini, dan itulah hal yang ingin saya lihat di sejumlah lembaga federal lainnya,” kata Narayanan. Ia menambahkan bahwa masuk akal untuk mengatur pembuat model sampai batas tertentu, tetapi saat ini hal itu harus lebih difokuskan pada transparansi. “Kami tidak tahu banyak tentang apa yang terjadi di dalam perusahaan-perusahaan ini,” katanya. Tusk mengatakan ia melihat sekitar 800 RUU yang umumnya terkait dengan AI diperkenalkan di badan legislatif negara bagian tahun lalu dan bahwa ia telah berhubungan dengan legislator dari negara bagian New York yang ingin menyusun RUU AI mereka sendiri. Ia mengatakan RUU New York kemungkinan akan lebih ketat daripada SB 1047 California.
Sementara itu, para CIO masih bimbang: yakin bahwa beberapa jenis regulasi itu baik tetapi tidak yakin bagaimana hal itu dapat memengaruhi pekerjaan dan inovasi teknologi mereka secara keseluruhan. Namun, ada yang perlu dilakukan, kata Andrea Malagodi, CIO perusahaan perangkat lunak Sonar, kepada The Wall Street Journal di acara tersebut. “Tentu saja, ada pandangan bahwa inovasi akan terhambat,” katanya. “Saya bertanya-tanya apakah hal semacam itu didasarkan pada rasa takut.” “Ada gesekan yang wajar yang seharusnya terjadi antara inovasi dan keselamatan,” tambahnya.