Dalam era di mana kecerdasan buatan (AI) semakin berkembang pesat, para seniman dan pencipta karya seni digital menghadapi tantangan baru dalam melindungi karya-karya mereka dari penggunaan yang tidak sah oleh AI (Artificial Intellegent).
Di sinilah Nightshade, sebuah alat yang diciptakan oleh para peneliti di Universitas Chicago, berperan penting sebagai pelindung yang inovatif. Nightshade dirancang khusus untuk mengubah piksel-piksel dalam sebuah karya seni digital dengan tujuan mengacaukan kemampuan sistem AI dalam mendeteksi objek di dalam gambar.
Prinsip dasar Nightshade adalah dengan "meracuni" gambar melalui perubahan kecil pada piksel-pikselnya.
Alat ini dapat memanipulasi data gambar secara cerdas sehingga model AI menjadi salah mengenali objek-objek yang sebenarnya ada dalam karya seni digital. Dampaknya adalah sistem AI menjadi tidak akurat dalam mengidentifikasi elemen-elemen dalam gambar tersebut.
Contohnya gambar anjing akan dianggap sebagai gambar kucing.
Keberadaan Nightshade memberikan sejumlah keuntungan bagi para seniman dalam melindungi karya seni digital mereka. Para seniman seringkali merasa tidak nyaman ketika karya seni mereka digunakan tanpa izin dalam pengembangan AI atau aplikasi lainnya.
Beberapa perusahaan AI seperti OpenAI dan Stability AI sebenarnya telah memberikan opsi bagi para seniman untuk menolak penggunaan karya seni mereka dalam set pelatihan AI, atau setidaknya berjanji untuk menghormati permintaan tersebut. Namun, harapan semacam itu saat ini belum didukung oleh mekanisme yang memaksa perusahaan untuk mematuhi janji mereka.
Inilah peran penting Nightshade sebagai sebuah mekanisme yang dapat memberikan perlindungan lebih kuat bagi para seniman.
Dengan merusak data pelatihan AI yang digunakan oleh perusahaan-perusahaan teknologi untuk mengembangkan model AI, Nightshade menciptakan hambatan bagi pembentukan model AI yang dapat melakukan identifikasi karya seni digital dengan akurasi tinggi tanpa izin.
Namun, ada sisi lain yang perlu dipertimbangkan dalam penggunaan Nightshade.