Operasi pengawasan China yang memanfaatkan kecanggihan kecerdasan buatan (AI) baru-baru ini berhasil dibongkar oleh OpenAI. Jaringan akun yang terkait dengan operasi ini, yang dikenal dengan kode “Peer Review,” telah dinonaktifkan. Mereka menggunakan platform ChatGPT untuk menciptakan alat AI yang dirancang memonitor sentimen anti-China di negara demokrasi Barat.
“Peer Review” menyasar platform media sosial populer seperti X, Facebook, Instagram, dan Telegram. Tujuannya adalah mengumpulkan data “real-time” tentang protes, diskusi hak asasi manusia, dan kritik politik terhadap Beijing. Software pengawasan yang mereka kembangkan, “Qianyue Overseas Public Opinion AI Assistant,” menggunakan ChatGPT untuk memperbaiki kode, membuat materi promosi, dan menganalisis dokumen.
Investigasi OpenAI mengungkap, para aktor yang kemungkinan berbasis di China menggabungkan ChatGPT dengan model Llama milik Meta. Hasilnya, sebuah sistem yang mampu menghasilkan laporan detail untuk otoritas China, personel intelijen, dan staf kedutaan. “Ini adalah gambaran mengkhawatirkan tentang bagaimana rezim otoriter memanipulasi alat demokratis untuk menindas,” kata Ben Nimmo, kepala intelijen OpenAI.
Kemampuan alat tersebut tidak terbatas pada pengumpulan data. Alat tersebut mampu menerjemahkan dan meringkas konten, mengidentifikasi tokoh-tokoh kunci dalam wacana anti-China, dan bahkan mengotomatiskan respons terhadap kritik. Kekhawatiran pun muncul tentang peran AI dalam sensor yang disponsori negara. Meskipun OpenAI mengonfirmasi promosi perangkat lunak ini di kalangan birokrasi China, penggunaan aktualnya masih belum terverifikasi.
Insiden tersebut menggarisbawahi pola yang lebih luas. Dalam kampanye “Sponsored Discontent,” aktor China menggunakan ChatGPT untuk membuat unggahan berbahasa Inggris yang menyerang pembangkang dan mempromosikan narasi pro-Beijing. Threat Intelligence Group dari Google juga menemukan 57 kelompok terkait negara, termasuk dari China, Iran, dan Rusia yang menggunakan AI untuk meningkatkan serangan siber dan disinformasi.
Di tengah meningkatnya kekhawatiran AS terhadap ambisi AI China, OpenAI menyoroti perusahaan rintisan seperti DeepSeek. Model penalaran R1 mereka menyaingi sistem OpenAI dan telah diadopsi di infrastruktur penting China, termasuk pelabuhan-pelabuhan utama. OpenAI juga menuduh DeepSeek dan perusahaan serupa “menyuling” data dari model Barat, tuduhan yang dibantah DeepSeek. Persaingan ini memicu perdebatan tentang AI sumber terbuka, dengan kritik terhadap Meta karena memberikan akses ke Llama.
