Yapay zeka tepkisi başlıyor: Sanatçılar bu güçlü araçla intihale karşı koruma sağlayabilir - Dünyadan Güncel Teknoloji Haberleri

Yapay zeka tepkisi başlıyor: Sanatçılar bu güçlü araçla intihale karşı koruma sağlayabilir - Dünyadan Güncel Teknoloji Haberleri

Zehir taktikleri

Test aşamasının bir parçası olarak ekip, Stable Diffusion’ın bulaştığı içeriği besledi ve “daha sonra onu köpek resimleri oluşturmaya yönlendirdi” Şu anda birden fazla edebiyat yazarı var Programı talep eden OpenAI’ye dava açmak “telif hakkıyla korunan eserleri izinsiz kullanmaktır ” Umarım yakında bir gün

Bize Nightshade’i “halkın kullanımına sunmayı ve yayınlamayı” planladıklarını söyledi 50 örnek verildikten sonra yapay zeka, altı bacaklı şekilsiz köpeklerin resimlerini oluşturdu Bu aynı zamanda sanat tarzlarına da yansıyor

Şu ana kadar Nightshade’e yönelik ilk tepkiler olumlu Ancak MİT’in paylaşımında da belirtildiği gibi “bunları kaldırmak çok zor”

Chicago Üniversitesi’ndeki bir araştırma ekibi, çevrimiçi sanatçıların orijinal çalışmalarına esasen zehirli haplar yerleştirerek “Yapay Zeka şirketlerine karşı savaşmalarına” yardımcı olmayı amaçlayan bir araç geliştirdi

İllüstrasyonu hobi olarak edinmek istiyorsanız TechRadar’ın 2023’ün en iyi dijital sanat ve çizim yazılımları listesine göz atmayı unutmayın Hatta belki telif ücreti ödemeye bile razı olabiliriz 300 verildikten sonra köpekler tam teşekküllü kedilere dönüştü Aşağıda diğer denemeleri göreceksiniz Ayrıca Nightshade’i açık kaynak haline getirmeyi ve başkalarının kendi zehirlerini üretmelerine olanak sağlamayı umuyor Eğer aşina değilseniz, cila, Zhao’nun ekibinin yarattığı, sanatçılara “kendi kişisel tarzlarını maskeleme” ve bunun yapay zeka tarafından benimsenmesini engelleme yeteneği veren başka bir araçtır

En azından fikir bu Bu yeterince zor değilse, bu modeller “milyarlarca veri örneği üzerinde eğitiliyor Columbia Üniversitesi’nde bilgisayar bilimi profesörü Junfeng Yang, Technology Review’a bunun yapay zeka geliştiricilerinin “sanatçı haklarına daha fazla saygı duymasını” sağlayabileceğini söyledi ” MIT Technology Review kısa bir göz atmayı başardı

Toksik bitki ailesinden sonra Nightshade olarak adlandırılan yazılımın, üretken yapay zekaların bunları yorumlama biçimini bozan dijital sanata zehirli pikseller kattığı söyleniyor Geliştiricilerin “bozuk her örneği bulup silmeleri” gerekecekti ” Diğer çalışmalar için toksik yazılım geliştirmenin büyük bir çaba olacağını belirtiyor, “çünkü bu alanlar statik görüntülerden oldukça farklı

Ayrıca Profesör Zhao’ya video ve edebiyat için bir Gece Gölgesi yaratma planlarının olup olmadığını sorduk Örneğin bir köpeğin resmini kedi olarak veya bir arabanın resmini inek olarak görebilir Takımın “henüz bunlarla başa çıkma planı yok

(İmaj kredisi: Chicago Üniversitesi/MIT Teknoloji İncelemesi)

Yapay zeka şirketlerinin toksik pikselleri ortadan kaldırması mümkün

Gelecekteki çabalar

Ekip lideri olan Chicago Üniversitesi’nden Profesör Ben Y Şu anda teknoloji “görevli incelemesi için şu adreste gönderildi: [the] bilgisayar güvenliği konferansı Usenix Glaze’in “isteğe bağlı bir özellik” olarak bir parçası olacak Nightshade henüz başlangıç ​​aşamasında

Bunları da beğenebilirsin

Stabil Difüzyon gibi modellerin çalışma şekli, interneti taramaları ve eğitim verileri olarak kullanabilecekleri kadar çok görüntü toplamalarıdır Nightshade’in yaptığı şey bu “güvenlik açığından” yararlanmaktır 100’den sonra kediye benzeyen bir şey görmeye başlarsınız Tarafından açıklandığı gibi MIT Teknoloji İncelemesiBu “zehirli veri örneklerinin modelleri öğrenmeye yönlendirebilmesi” yanlış bir şey Bunun ne kadar zor olabileceğine dair size bir fikir vermek gerekirse, 1080p görüntüde iki milyonun üzerinde piksel bulunur “Köpek” kelimesiyle oynamak köpek yavrusu, husky veya kurt gibi benzer kavramları karıştırır Zhao’ya çeşitli sorularla ulaştık ” Yapay zeka motoruyla uğraşan bir avuç pikseli bulmak için bir piksel denizine baktığınızı hayal edin

(İmaj kredisi: Chicago Üniversitesi/MIT Teknoloji İncelemesi)

Rapor, Nightshade’in aynı zamanda “yüzeysel olarak ilişkili” fikirleri de etkilediğini çünkü üretken yapay zekaların “kelimeler arasında bağlantı kurmada” iyi olduğunu söylüyor