X baru saja menangguhkan sementara semua pencarian yang berkaitan dengan Taylor Swift salah satu penyanyi terpopuler dan paling berpengruh di dunia. Keputusan untuk menangguhkan pencarian penyanyi ternama tersebut terjadi setelah munculnya banyak foto deepfake buatan AI tentang dirinya yang sebagian besar bersifat pornografi di platfom yang sebelumnya dikenal dengan Twitter tersebut pada awal minggu ini.
Teknologi deepfake menggunakan algoritma kecerdasan buatan untuk memanipulasi konten digital, seperti gambar atau video, agar terlihat nyata dan otentik. Meskipun beberapa aplikasi deepfake dapat digunakan untuk tujuan yang menyenangkan dan kreatif, seperti menukar wajah atau mengubah ekspresi, teknologi tersebut juga dapat menimbulkan ancaman serius bagi privasi, keamanan, dan reputasi, terutama ketika digunakan untuk membuat pornografi tanpa persetujuan atau memberikan informasi palsu.
Menurut The Wall Street Journal, Head of Business Operation X, Joe Benarroch, mengonfirmasi keputusan untuk memblokir pencarian Taylor Swift pada hari Sabtu (27/01/24), dengan mengatakan bahwa hal tersebut merupakan “tindakan sementara dan dilakukan dengan hati-hati karena X mengutamakan keamanan dalam masalah ini”. Ia juga menambahkan bahwa X sedang bekerja sama dengan para ahli dan mitra untuk mengidentifikasi dan menghapus gambar dan akun deepfake yang bertanggung jawab atas penyebarannya.
WSJ juga melaporkan bahwa penggemar Swift yang dikenal sebagai Swifties, bereaksi terhadap invasi deepfake dengan memposting gambar asli dan positif tentang penyanyi tersebut, menggunakan tagar seperti #WeLoveYouTaylor dan #TaylorSwiftIsLoved, untuk menenggelamkan foto palsu tersebut. Mereka juga melaporkan akun dan gambar yang menyinggung kepada X, agar dapat dihapus.
Sebelum X mengambil tindakan, CEO Microsoft Satya Nadella menyatakan keprihatinannya tentang fenomena deepfake dalam sebuah wawancara dengan NBC News pada hari Jumat. Ia juga menambahkan bahwa ia percaya bahwa dunia online harus menjadi tempat yang aman bagi para pembuat dan konsumen konten, dan bahwa industri teknologi memiliki tanggung jawab untuk bertindak cepat dan mencegah penyalahgunaan AI.
NBC News juga mengungkapkan bahwa 404Media, sebuah situs web berita teknologi, mengklaim bahwa beberapa gambar deepfake Swift dibuat menggunakan Microsoft Designer, sebuah aplikasi web yang memungkinkan pengguna untuk membuat gambar dan desain yang dihasilkan oleh AI⁴⁶. Namun, Microsoft membantah tuduhan ini, dengan mengatakan bahwa ia tidak dapat mereproduksi gambar eksplisit menggunakan aplikasinya, dan bahwa ia telah mengambil langkah-langkah untuk memperkuat petunjuk penyaringan teksnya dan menangani penyalahgunaan layanannya³.
