BBC, AI Holokost Görüntülerinden Kârlı Spamer Web'i ortaya çıkarıyor

"AI Slop" ile ilgili bir BBC soruşturması, uluslararası bir spam gönderen ağı Facebook'ta Holokost kurbanlarının AI tarafından oluşturulan görüntülerini yayınlıyor.

Holokost'un hafızasını korumaya adanmış kuruluşlar, görüntülerin hayatta kalanları ve aileleri sıkıntılı bıraktığını söylüyor.

Ayrıca Facebook'un ana şirketi Meta'yı eleştirdiler ve platformundaki kullanıcıların vahşeti "duygusal bir oyuna" dönüştürmesine izin verdiğini söyledi.

İkinci Dünya Savaşı sırasında Auschwitz toplama kampının içinden sadece bir avuç gerçek fotoğraf var.

Ancak son aylarda, AI spam göndericileri kampın içinden olduğu iddia edilen sahte görüntüler yayınladı, örneğin bir keman oynayan bir mahkum veya çitlerin sınırlarında sevgililer toplantısı - on binlerce beğeni ve hisse çekiyorlar.

Polonya'daki Auschwitz Anıtı sözcüsü Pawel Sawicki, "Burada hikayeleri oluşturan biri var… sosyal medyada gerçekleşen bir tür garip duygusal oyun için," dedi.

"Bu bir oyun değil. Bu gerçek bir dünya, gerçek ıstırap ve gerçek bir insan.

BBC, bu görüntülerin birçoğunu Facebook'ta nasıl para kazanacağınız konusunda yakın işbirliği yapan Pakistan tabanlı bir içerik oluşturucu ağının hesaplarına izledi. Bunlar, kullanıcılara yüksek performanslı içerik ve görünümler için ödeme yapan "yalnızca davet" sistemi olan Meta'nın İçerik Para Kazanma (CM) programıdır.

Pakistan'da yaşayan olarak listelenen Abdul Mughees adlı bir hesap, Meta'lar da dahil olmak üzere sosyal medya para kazanma planları aracılığıyla 20.000 dolar kazandığını iddia eden ekran görüntüleri yayınladı. Başka bir gönderi, hesabın dört ay boyunca içerikle ilgili 1,2 milyardan fazla görüntüleme tahakkuk ettiğini gösteriyor.

Herhangi bir yaratıcının kazançını bağımsız olarak doğrulayamadık.

Abdul Mughees'in hesabından birçok Facebook gönderisi arasında kurgusal Holokost kurbanlarının ve döşeme tahtalarının altında saklanan bir çocuğu veya bir toplama kampının dışındaki tren yollarında bırakılan bir bebeği içeren sahte hikayelerin birkaç yapısal fotoğrafı var.

BBC'nin hesabın çevrimiçi faaliyetlerini ve düzinelerce diğerlerinin analizi, neredeyse tamamen "AI slop" yayınladıklarını gösteriyor.

Terim, genellikle büyük hacimlerde üretilen ve sosyal medyada spam gönderilen düşük kaliteli AI tarafından üretilen görüntüler ve metin anlamına gelir.

Auschwitz, tarih temalı sayfalar ve gruplar için popüler bir konu haline geldi. Bazıları "Zamansız Masallar" ve "History Haven" gibi isimlere sahip günde 50'den fazla yayın yapıyordu.

Haziran ayında Auschwitz Müzesi, bu gibi hesapların görevlerini çaldığı, AI modelleri aracılığıyla işlediği ve genellikle tarihsel detayları çözdüğü veya anlatıları ve kurbanları tamamen ürettiği konusunda uyardı. Bir Facebook gönderisinde müze, bu görüntülerin "kurbanlara saygısızlık eden ve hafızalarını taciz eden" tehlikeli bir bozulma "olduğunu söyledi.

Bay Sawicki, sahte görüntülerin tsunaminin Auschwitz Anıtı'nın Holokost hakkında farkındalığı artırma misyonunu baltaladığını söyledi.

"Facebook yayınlarımızda 'Oh, bu AI tarafından oluşturulan bir fotoğraf' yorum almaya başladık." Dedi.

Holokost eğitimi ve araştırmalarını teşvik eden bir organizasyona göre, hayatta kalanlar ve aileler de Holokost AI Slop'un dalgalanmasından rahatsız oluyorlar.

Uluslararası Holokost Anma İttifakı'ndan Dr. Robert Williams, "Ne gördüklerini tam olarak anlamıyorlar" dedi.

Holokost mağdurlarının hükümet ve farkındalık kampanyalarına yatırımlara rağmen "bunun gerçekleşmesine izin verilen belirli bir üzüntü duygusu" hissettiklerini söyledi.

“Çabalarının yeterli olmadığını düşünüyorlar” dedi.

"Bu dikkate alınması çok üzücü bir şey çünkü hayatta kalanların sonuncusu yakında bizi terk edecek."

Meta, kullanıcıları kasıtlı olarak Holokost da dahil olmak üzere sahte hikayeler yayınlamaya teşvik etmez, ancak sistemi yüksek katılımla yayınları ödüllendirir. BBC ayrıca Hindistan, Vietnam, Tayland ve Nijerya'da bulunan AI Slap hesapları buldu.

Bu ağların neden belirli türden içerik üreten kitlesel olduğunu anlamak için BBC, çeşitli sosyal medya içeriği para kazanma planlarına kayıtlı olan ve bu çalışmanın tek gelir kaynağı haline geldiğini söyleyen bir Pakistanlı adam Fazal Rahman ile konuştu.

Herhangi bir Holokost görüntüsü yaratmadığını ve başlangıçta sorulduğunda kelimenin ne anlama geldiğini bilmediğini söylerken, yapanlarla aynı Facebook gruplarında çalışır.

Bay Rahman, 300.000 takipçisi olan bir Facebook sayfasının, İngiltere, ABD ve Avrupa'dan daha yüksek değerli izleyicilere hitap eden "premium içerik" olsaydı, sahibine ayda 1.000 USD kazanabileceğini söyledi. Batı görüşlerinin Posta başına Asya'dan sekiz kat daha fazla olduğunu tahmin ediyor.

Bir konu olarak tarihin çevrimiçi trafiğin güvenilir bir itici gücü olduğunu söyledi.

Diğer yaratıcılar aynı fikirde görünüyor. BBC, AI modellerinin sürekli sahte geçmiş görüntüleri ve metin oluşturmak için nasıl popüler kullanabileceğine dair adım adım öğretim videoları gördü.

Bir videoda, yaratıcı AI Chatbot'tan içerik oluşturma için bir temel olarak kullanabilecekleri önemli tarihsel olayları listelemesini istedi ve Holokost'a cevaplarından biri olarak verildi.

Bazı içerik oluşturucular tarafından verilen diğer tavsiyeler arasında, sayfalarının izleyiciler oluşturmak ve Meta'nın CM programına uygun olmaları için diğer kuruluşları taklit etmesini sağlayarak izleyicilerin nasıl aldatılacağı hakkında ipuçları bulunmaktadır.

Facebook, kullanıcıların sayfaların önceki adlarını izlemelerini sağlayan bir sayfa şeffaflık özelliğine sahiptir. Bunu kullanarak BBC, bir zamanlar ABD'deki resmi itfaiye departmanları, ticari işletmeler ve Amerikan etkileyicileri de dahil olmak üzere bir dizi farklı varlık olarak poz veren Holokost AI Slop yayınlayan birçok sayfa buldu - hepsi rızası olmadan.

İçerik oluşturucuların halka açık yayınlarına göre bu sayfalar, içerik yaratıcı pazarına girmek isteyenlere de satılabilir veya kiralanabilir.

BBC, Meta'ya Holokost temalı AI içeriği yayınlayan ve ayrıca aldatıcı uygulamalarla uğraşmış gibi görünen birkaç profil sordu.

Haziran ayında Auschwitz Anıtı tarafından işaretlenenler de dahil olmak üzere profillerin ve grupların birçoğu kaldırıldı.

Teknoloji devi sözcüsü, bu sahte görüntülerin içerik politikalarını ihlal etmese de, onları araştırdığını ve sayfaların kimliğine bürünme veya ticaret konusundaki kurallarını kırdıklarını buldu.

"Bizimle paylaşılan sayfaları ve grupları kaldırdık ve spam ve orijinal davranış politikalarımızı ihlal ettikleri için arkasındaki hesapları devre dışı bıraktık." Dediler.

AI geçmişte Holokost'u anmak ve gerçek kurbanların hikayelerini hayata geçirmek için kullanılmıştır, ancak Uluslararası Holokost Anma İttifakı'nın Dr Williams, Holokost tarihinin bir şekilde üretildiği duygusuna katkıda bulunabileceği bir risk olduğu konusunda uyarıyor.

"Herhangi bir aşırı manipülasyon, kaçınmamız gereken bir şeydir" dedi.

Umer Draz Nangiana, BBC Urduca tarafından ek raporlar