Nightshade Yapay Zeka Karşısında Bir Kalkan Görevi Görüyor

Yayınlanma:
Nightshade Yapay Zeka Karşısında Bir Kalkan Görevi Görüyor
Yapay zeka, yaratıcıların çalışmalarını kopyalama potansiyeliyle birçok tartışmaya neden oldu ve bu sorunu ele almak için yeni bir araç ortaya çıktı: Nightshade. MIT Technology Review raporuna göre, Nightshade, sanatçıların eserlerine tespit edilemeyen pikseller eklemelerine olanak tanıyan bir araç olarak dikkat çekiyor ve yapay zekanın eğitim verilerini bozmaya karşı bir önlem olarak görülüyor.

Hollywood saldırılarından dijital portrelere kadar, yapay zekanın yaratıcıların çalışmalarını çalma potansiyeli ve bunun nasıl durdurulacağı, 2023'teki teknoloji tartışmalarına yön verdi. Sanatçıları ve eserlerini korumaya yönelik en son çaba, sanatçıların çalışmalarına tespit edilemeyen pikseller eklemesine olanak tanıyan bir araç olan Nightshade'dir. MIT Technology Review raporuna göre bu durum yapay zekanın eğitim verilerini bozabilir. Nightshade'in yaratılışı, OpenAI ve Meta gibi büyük şirketlerin telif hakkı ihlali ve kişisel eserlerin tazminatsız çalınması nedeniyle davalarla karşı karşıya kalmasıyla ortaya çıkıyor.

nightshade-yapay-zeka-karsisinda-bir-kalkan-gorevi-goruyor-1.jpg

Nightshade sanatçıların eserlerini korumayı amaçlıyor

Chicago Üniversitesi profesörü Ben Zhao ve ekibi, gücün bir kısmını yeniden sanatçıların ellerine vermek amacıyla şu anda hakem değerlendirmesinden geçen Nightshade'i yarattı. Bunu son Stabil Difüzyon modellerinde ve kişisel olarak sıfırdan oluşturdukları bir yapay zeka üzerinde test ettiler. Nightshade aslında bir zehir gibi işliyor ve makine öğrenimi modelinin içerik üretme şeklini ve bitmiş ürünün neye benzediğini değiştiriyor. Örneğin, bir yapay zeka sisteminin bir el çantası istemini ekmek kızartma makinesi olarak yorumlamasını veya istenen köpek yerine bir kedi resmini göstermesini sağlayabilir.