X telah mengkonfirmasi bahwa mereka mencegah pengguna mencari nama Taylor Swift setelah deepfakes pornografi dari artis tersebut mulai beredar di platform ini minggu ini. Pengunjung situs mulai melihat bahwa beberapa pencarian yang mengandung nama Swift hanya akan mengembalikan pesan kesalahan. Dalam pernyataan kepada Wall Street Journal, Joe Benarroch, Kepala Operasional Bisnis X, mengatakan, “Ini adalah tindakan sementara dan dilakukan dengan penuh kehati-hatian karena kami memprioritaskan keamanan dalam masalah ini.” Langkah ini diambil beberapa hari setelah masalah ini pertama kali diketahui.
Penanganan masalah ini oleh X sejak awal mendapat kritik bahwa mereka lambat dalam menghentikan penyebaran gambar eksplisit non konsensual. Setelah gambar tersebut menjadi viral, para penggemar Swift mengambil langkah sendiri untuk membatasi keterlihatan gambar dan menghapusnya, dengan melaporkan secara massal akun yang membagikan gambar tersebut dan membanjiri hashtag terkait penyanyi tersebut dengan konten positif, seperti dilaporkan oleh NBC News awal pekan ini. Banyak akun yang melakukan pelanggaran tersebut kemudian dihentikan, tetapi tidak sebelum dilihat dalam beberapa kasus jutaan kali. The Verge melaporkan pada hari Kamis bahwa satu pos dilihat lebih dari 45 juta kali.
Dalam pernyataan yang diposting di platform mereka pada hari itu juga, X mengatakan, “Mengunggah gambar Nuditas Tanpa Persetujuan (NCN) dilarang keras di X dan kami memiliki kebijakan nol toleransi terhadap konten tersebut. Tim kami secara aktif menghapus semua gambar yang diidentifikasi dan mengambil tindakan yang sesuai terhadap akun yang bertanggung jawab atas unggahan tersebut. Kami terus memantau situasi ini untuk memastikan bahwa setiap pelanggaran lebih lanjut segera ditangani, dan kontennya dihapus. Kami berkomitmen untuk menjaga lingkungan yang aman dan penuh hormat untuk semua pengguna.”
Namun, masih mungkin menemukan gambar tersebut beberapa hari setelahnya. 404Media melacak asal mula gambar tersebut ke grup Telegram yang dikenal membuat gambar AI nonconsensual dari wanita menggunakan alat gratis termasuk Microsoft Designer. Dalam wawancara dengan Lester Holt dari NBC News, CEO Microsoft Satya Nadella mengatakan masalah ini menyoroti tanggung jawab perusahaan dan “semua guardrails yang perlu kita tempatkan di sekitar teknologi agar lebih banyak konten aman yang dihasilkan.” Dia melanjutkan untuk mengatakan bahwa “ada banyak hal yang harus dilakukan di sana, dan banyak yang sedang dilakukan,” tetapi juga mencatat bahwa perusahaan perlu bergerak cepat.
