Perkembangan kecerdasan buatan (AI) generatif telah membawa banyak manfaat, mulai dari pembuatan konten kreatif hingga inovasi di berbagai sektor industri. Namun, di sisi gelapnya, teknologi ini juga memunculkan ancaman baru: misinformasi dan deepfake. Misinformasi adalah penyebaran informasi yang salah atau menyesatkan, sedangkan deepfake adalah konten visual atau audio yang dimanipulasi dengan AI sehingga terlihat atau terdengar sangat meyakinkan, padahal palsu.
Bahaya dari keduanya tidak bisa diremehkan. Deepfake dapat digunakan untuk membuat video palsu tokoh publik yang mengucapkan hal-hal yang tidak pernah mereka katakan, menyebarkan fitnah politik, atau memicu konflik sosial. Misinformasi berbasis AI dapat memproduksi ribuan artikel, posting media sosial, atau gambar palsu hanya dalam hitungan detik, mempercepat penyebaran hoaks di masyarakat.
Pemerintah perlu menetapkan aturan yang jelas mengenai pembuatan dan distribusi konten AI, termasuk kewajiban memberi tanda (watermark atau label) pada konten yang dihasilkan AI. Uni Eropa telah memelopori langkah ini melalui EU AI Act, sementara China mewajibkan identifikasi khusus untuk konten AI generatif.
Teknologi Deteksi Deepfake
Sama seperti AI digunakan untuk membuat deepfake, AI juga bisa digunakan untuk mendeteksinya. Perusahaan teknologi kini mengembangkan algoritma yang mampu mengenali tanda-tanda manipulasi digital pada gambar, video, dan audio. Platform media sosial perlu mengintegrasikan teknologi ini secara luas. Beberapa contoh teknologi dan inisiatif yang saat ini digunakan antara lain:
- Microsoft Video Authenticator
- Dapat menganalisis foto dan video untuk mengidentifikasi kemungkinan manipulasi.
- Memberikan skor persentase yang menunjukkan tingkat keyakinan bahwa konten tersebut adalah deepfake.
- Reality Defender
- Platform berbasis AI yang memindai gambar, video, dan audio untuk mendeteksi tanda-tanda manipulasi.
- Digunakan oleh media, pemerintah, dan lembaga keuangan untuk verifikasi konten.
- Deepware Scanner
- Aplikasi yang memungkinkan pengguna mengunggah file audio atau video untuk diperiksa keasliannya.
- Intel FakeCatcher
- Mengklaim mampu mendeteksi deepfake dengan akurasi hingga 96% secara real time.
- Bekerja dengan menganalisis pola aliran darah di wajah manusia yang sulit direplikasi AI.
- Google Deepfake Detection Dataset & Model
- Google merilis dataset deepfake untuk melatih model deteksi dan membagikannya kepada komunitas riset.
- Model ini digunakan untuk meningkatkan kemampuan pendeteksian di berbagai platform.
- Sensity AI
- Perusahaan yang fokus pada deteksi visual threat, termasuk deepfake pornografi dan misinformasi politik.
- Menggunakan teknologi analisis video berbasis pembelajaran mesin.
- Content Authenticity Initiative (Adobe, Twitter/X, New York Times)
- Bukan hanya deteksi, tetapi juga memberi metadata asli pada konten untuk membuktikan sumber dan riwayat edit.
Meskipun teknologi ini sudah ada, tantangannya adalah deepfake juga terus berevolusi. Metode manipulasi makin realistis dan dapat menghindari deteksi lama. Karena itu, deteksi perlu diintegrasikan langsung ke dalam platform media sosial, mesin pencari, dan aplikasi komunikasi, serta diperbarui secara berkala.
Masyarakat juga harus dilengkapi keterampilan untuk mengenali konten palsu. Program literasi digital di sekolah, kampus, dan komunitas dapat meningkatkan kewaspadaan publik terhadap misinformasi, mengajarkan cara memverifikasi sumber, serta mendorong budaya berpikir kritis.
Pemerintah, perusahaan teknologi, media, dan organisasi masyarakat sipil perlu bekerja sama dalam memerangi penyebaran konten palsu. Kolaborasi ini mencakup berbagi data, riset bersama, dan kampanye publik.
Di Indonesia, upaya pencegahan deepfake dan misinformasi masih berada di tahap awal. Undang-Undang ITE dan Undang-Undang Perlindungan Data Pribadi memberi dasar hukum, namun regulasi khusus untuk AI generatif belum ada. Sementara itu, di tingkat global, negara-negara mulai menyadari bahwa ancaman ini adalah masalah lintas batas yang memerlukan respons bersama.
Mengatasi AI misinformasi dan deepfake bukanlah sekadar tantangan teknologi, tetapi juga ujian bagi demokrasi, keamanan nasional, dan kepercayaan publik. Semakin cepat langkah pencegahan diambil, semakin kecil peluang teknologi ini disalahgunakan untuk merusak tatanan sosial.