Makine‘lere karşı savaş tam gaz devam ediyor. Başlangıçta genel olarak üretken yapay zekâya olan hoşnutsuzluk, şimdi sanatçılar tarafından tam ölçekli bir saldırıya dönüşmüş durumda. Peki sanatçılar neden bu yola başvuruyor? Yapay zekâyı kör etme sebepleri ne? İşte tüm yanıtlar…
Sanatçılar, yapay zekâyı neden zehirlemeye çalışıyor?
Bu husumetin nedeni yapay zekânın, sanatçıların izni olmadan platformlardaki orijinal görüntülerle eğitiliyor olması. Spesifik olarak anlatmak gerekirse geliştirilen bazı yeni ürünler, yapay zekâyı hatalar yapacak şekilde kafasını karıştırmayı amaçlıyor.
Yani yapay zekânın “sanat eseri” verilerini “zehirleme” amacıyla piyasaya sürülüyor. Örneğin Nightshade, Chicago Üniversitesi’ndeki araştırmacılar tarafından geliştirilmiş ücretsiz bir yazılım. Sanatçılar çok beklemiş olacaklar ki, ocak ayında çıkışından bu yana bu yazılımı 250 binden fazla kişi indirdi.
Konuyla ilgili bir VentureBeat makalesinde, “Araç temel olarak yapay zekayı yapay zekâya karşı kullanarak çalışıyor,” deniyor. Yani yapay zekâyı kör etmek için başka bir yapay zekâ kullanılıyor. DALL-E ve Midjourney AI gibi platformlar, ticari sanat da dahil olmak üzere web’den veri toplayarak çalışıyor.
Midjourney’in raporlara göre izinsiz olarak orijinal yapımcılardan daha fazla 100 milyondan fazla görüntüyle eğitim aldığı belirtiliyor. Açıklığa kavuşturmak gerekirse, bu doğrudan “çalıntı” anlamına gelmiyor. Eğitim verisi parçalara ayrılıyor ve ardından istendiğinde yeniden yapılandırılıyor, bu da çıktının mevcut bir sanat eserinin aynısı değil, bir benzeri olacağı anlamına geliyor.
Veri zehirleme aracı: Nightshade nasıl çalışıyor?
Bu yapay zekâ yazılımı, diğer yapay zeka programlarının görüntülerdeki nesneleri yanlış tanımlaması için etiketler kullanarak çalışıyor, “piksel düzeyinde resmi ince bir şekilde değiştirerek diğer yapay zeka programlarının gerçekte olduğundan farklı bir şey görmesini sağlıyor.” Yani resmen zehirleniyor!
Kaynak, sonucun yapay zekânın muhtemelen kullanıcı talimatlarıyla eşleşmeyen sonuçlar üreteceğini açıklıyor. “Örneğin, insan gözleri yeşil bir alanda bir inek resmi görebilirken, bir yapay zekâ modeli çimenlerin üzerinde yatan büyük bir deri çanta görebilir,” diyor. Nightshade’i tanıtan ekip, yaklaşık bir yıl önce piyasaya sürülen diğer bir AI engelleyici araç olan Glaze‘in de arkasında.
Bu araç, sanatçının tarzını gizlemek için tasarlanmış, bu da üretken yapay zekânın sahneye girmesiyle sanatçıların en büyük kabusu haline geldiği anlamına geliyor. Geliştiricilere göre çözüm, yapay zekâ şirketlerinin, görüntüleri sanatçılardan lisanslamaları olabilir. Böylece bunları ücretsiz web‘den almazlar.
Kaynak haber için BURAYA tıklayınız.
Daha fazla içerik için BURAYA tıklayınız.