(Business Lounge Journal-Global News) Saat para pejabat keamanan dan intelijen nasional utama bersiap menghadapi persaingan ketat pemilihan presiden pada bulan Juni, seorang karyawan baru OpenAI mendapati dirinya dilarikan ke Washington untuk memberi pengarahan tentang bahaya yang muncul dari luar negeri. Ben Nimmo, penyelidik ancaman utama untuk pelopor AI yang terkenal itu, telah menemukan bukti bahwa Rusia, Tiongkok, dan negara-negara lain menggunakan produk andalannya, ChatGPT, untuk membuat kiriman media sosial yang dimaksudkan untuk memengaruhi wacana politik daring.
Nimmo, yang baru mulai bekerja di OpenAI pada bulan Februari, terkejut saat melihat pejabat pemerintah telah mencetak laporannya, dengan temuan-temuan utama tentang operasi tersebut disorot dan diberi label. Perhatian itu menggarisbawahi posisi Nimmo di garda depan dalam menghadapi dorongan dramatis yang dapat diberikan oleh kecerdasan buatan terhadap operasi disinformasi musuh asing. Pada tahun 2016, ia menjadi salah satu peneliti pertama yang mengidentifikasi bagaimana Kremlin ikut campur dalam politik daring AS. Sekarang perusahaan teknologi, pejabat pemerintah, dan peneliti lain berharap kepadanya untuk mengungkap musuh asing yang menggunakan perangkat OpenAI untuk memicu kekacauan di minggu-minggu yang menegangkan sebelum warga Amerika memberikan suara pada tanggal 5 November. Sejauh ini, pria Inggris berusia 52 tahun itu mengatakan, Rusia dan aktor asing lainnya sebagian besar “bereksperimen” dengan AI, sering kali dalam kampanye yang amatir dan kikuk yang memiliki jangkauan terbatas dengan para pemilih AS.
Namun OpenAI dan pemerintah AS bersiap menghadapi Rusia, Iran, dan negara-negara musuh lainnya untuk menjadi lebih efektif dengan AI, dan harapan terbaik mereka untuk menangkisnya adalah dengan mengungkap dan menumpulkan operasi sebelum mereka mendapatkan daya tarik. Katrina Mulligan, mantan pejabat Pentagon yang menemani Nimmo ke pertemuan tersebut, mengatakan penting untuk membangun “memori otot” itu ketika para aktor jahat membuat kesalahan bodoh. “Anda tidak akan menangkap aktor yang benar-benar canggih jika Anda tidak memulainya dari sana,” kata Mulligan, yang sekarang memimpin kebijakan keamanan nasional dan kemitraan untuk OpenAI.
Pada 9 Oktober, Nimmo merilis laporan yang mengatakan bahwa openAI telah mengganggu empat operasi yang menargetkan pemilihan umum di seluruh dunia tahun ini, termasuk upaya Iran yang berusaha memperburuk perpecahan partisan Amerika dengan komentar media sosial dan artikel panjang tentang politik AS, konflik di Gaza, dan kebijakan Barat terhadap Israel. Laporan Nimmo mengatakan openAI telah mengungkap 20 operasi dan jaringan penipuan di seluruh dunia tahun ini. Dalam satu operasi, seorang warga Iran menggunakan ChatGPT untuk menyempurnakan perangkat lunak berbahaya yang dimaksudkan untuk membahayakan perangkat Android.
Dalam operasi lain, sebuah perusahaan Rusia menggunakan ChatGPT untuk membuat artikel berita palsu dan generator gambar perusahaan, Dall-E, untuk membuat gambar kartun yang mengerikan tentang perang di Ukraina agar lebih menarik perhatian di umpan media sosial yang ramai. Nimmo menekankan bahwa tidak satu pun dari unggahan tersebut menjadi viral. Namun, ia mengatakan bahwa ia tetap waspada karena kampanye belum berakhir. Para peneliti mengatakan laporan Nimmo untuk openAI sangat penting karena perusahaan lain, terutama X (sebelumnya Twitter), menarik diri dari upaya melawan disinformasi. Namun, beberapa rekannya di bidang tersebut khawatir bahwa openAI mungkin meminimalkan bagaimana produknya dapat meningkatkan ancaman dalam siklus pemilihan yang memanas. “Dia bekerja untuk sebuah perusahaan,” kata Darren Linvill, seorang profesor yang mempelajari disinformasi di Universitas Clemson. “Dia memiliki insentif tertentu untuk mengecilkan dampaknya.”
Nimmo mengatakan bahwa dia mengukur dampak menggunakan skala yang dia kembangkan sebelum pemilihan 2020, saat dia bekerja untuk perusahaan riset media sosial Graphika. Pemilihan tersebut merupakan taruhan tinggi bagi openAI, yang baru-baru ini dinilai senilai $157 miliar. Beberapa pembuat kebijakan khawatir bahwa peluncuran ChatGPT, Dall-E, dan produk lainnya oleh perusahaan tersebut dapat memberi musuh AS alat baru yang ampuh untuk membingungkan pemilih Amerika, mungkin dengan cara yang melampaui kampanye Rusia untuk mempengaruhi pemilihan 2016. Menghadirkan Nimmo pada bulan Februari secara luas dipandang sebagai upaya perusahaan untuk menghindari beberapa kesalahan langkah yang dilakukan perusahaan media sosial, seperti meta, dalam siklus pemilihan sebelumnya. Namun Nimmo adalah satu dari segelintir orang yang bekerja penuh waktu di openAI untuk investigasi ancaman. Perusahaan teknologi besar lainnya, termasuk meta, tempat Nimmo sebelumnya menjadi pemimpin global untuk intelijen ancaman, memiliki tim yang jauh lebih besar.