Dari perang mogok di dunia hiburan Hollywood hingga seni digital yang memukau, potensi AI dalam mencuri karya-karya seniman dan upaya melindunginya telah menjadi perbincangan hangat dalam dunia teknologi pada tahun 2023. Inovasi terkini untuk menjaga hak seniman dan karyanya adalah Nightshade, sebuah alat yang memberikan kesempatan kepada seniman untuk menyisipkan piksel yang tak terdeteksi ke dalam karyanya, yang mungkin merusak data pelatihan AI. Dilansir oleh MIT Technology Review, Nightshade merupakan langkah proaktif dalam menghadapi isu hak cipta dan pencurian karya yang dilakukan oleh perusahaan-perusahaan raksasa seperti OpenAI dan Meta, yang saat ini tengah menghadapi gugatan hukum.
Nightshade, yang diciptakan oleh Profesor Universitas Chicago, Ben Zhao, dan timnya, saat ini sedang menjalani proses peninjauan oleh rekan sejawat. Alat ini bertujuan untuk memberikan kembali sebagian kekuatan kepada para seniman. Alat ini telah diuji pada model Stable Diffusion terbaru serta sebuah AI yang mereka buat dari nol.
Prinsip kerja Nightshade bisa disamakan dengan racun; alat ini mengubah cara model pembelajaran mesin menghasilkan konten serta tampilan produk akhirnya. Misalnya, Nightshade mampu membuat sistem AI menginterpretasikan suatu perintah yang semestinya menghasilkan gambar tas tangan menjadi gambar pemanggang roti, atau menampilkan gambar kucing ketika seharusnya gambar anjing yang diminta.
Nightshade merupakan kelanjutan dari rilis alat yang diberi nama Glaze oleh Zhao dan timnya pada bulan Agustus. Glaze juga mengubah piksel gambar dengan halus, tetapi membuat sistem AI mengenali gambar asli sebagai sesuatu yang benar-benar berbeda. Seorang seniman yang ingin melindungi karyanya dapat mengunggahnya ke Glaze dan memilih untuk menggunakan Nightshade.
Meskipun memiliki fitur yang bisa merusak, Nightshade mungkin akan menjadi dorongan besar bagi para pemain utama dalam industri AI untuk menghargai karya seniman dengan baik dan mengkompensasinya dengan pantas. Sebagai sebuah alternatif yang lebih baik daripada merombak sistem AI mereka. Para perusahaan yang ingin menghilangkan “racun” Nightshade kemungkinan besar akan menghadapi tugas yang sangat sulit, yakni menemukan setiap bagian data yang telah terkontaminasi. Namun, Zhao memberikan peringatan bahwa beberapa individu mungkin akan mencoba memanfaatkan alat ini untuk tujuan yang kurang baik, meskipun kerusakan yang nyata akan memerlukan ribuan karya yang telah rusak.
