Elon Musk uluslararası sıcak sularda. Aralık ayında X (eski adıyla Twitter), üretken yapay zeka (AI) modeli olan Grok’u yeni bir istem tabanlı görüntü oluşturucuyla güncelledi. Yeni versiyon Grok, web sitesindeki her görsele, kullanıcıların diğer kişilerin görsellerini orijinal kullanıcının izni olmadan özgürce değiştirmesine ve çarpıtmasına olanak tanıyan bir istem özelliği ekledi. Herhangi bir vazgeçme söz konusu değildi.
Bunu takip eden yıkım tamamen öngörülebilirdi. Kullanıcılar X’i hemen en kötü senaryolarla boğdu: kullanıcı tarafından oluşturulan çocuk cinsel istismarı materyalleri (CSAM) ve rıza dışı materyaller derin sahtekarlıklar Ünlülerin ve ünlü olmayanların bir dizi faşist imgesi, rızası olmadan derin sahtekarlık yapılan kadınlar da dahil. gamalı haç bikini. Grok’un küçüklere yönelik müstehcen görüntüleri ortaya çıkmaya başladı çoğalmak karanlık ağda. viral istemler kullanıcılardan dahil “Ona gamalı haç bikini koy”, “göğüslerini büyüt”, “kan ekle” ve “yüzünü Adolf’la değiştir.”
ABD’li bir sivilin Göçmenlik ve Gümrük Muhafaza memuru Jonathan Ross tarafından ölümcül bir şekilde vurulmasının ardından Grok, kullanıcıların saldırganın kimliğini belirlemeye çalışmasıyla bir şekilde daha da kötüleşti. tamamen uydurma Bir kişinin yüzünün ve başkalarının oluşturduğu görüntüler cinselleştirilmiş görseller kurban Renee Good’un. Buna, olay yerindeki vücudunun hassas görüntülerinin manipüle edilmesi de dahildi. Grok’un X’ten ayrı olan kendi web sitesinde daha da az kısıtlama var gibi görünüyor ve bildirildiğine göre kendi kullanıcılarına son derece sansürsüz ve şiddet içeren içerikler üretiyor.
Normalde bu, özellikle CSAM’ye ev sahipliği yapmanın derin hukuki sorunlar anlamına geldiği Amerika Birleşik Devletleri’nde korkunç sonuçlar doğurur. Ancak Musk, muhtemelen haklı olarak, Trump yönetimine olan yakınlığının kendisini yasalardan koruyacağına ikna olmuş görünüyor.
Ancak dünyanın geri kalanı başka bir konudur. X’te işler o kadar vahimleşti ki, dünya çapındaki yetkililer platform üzerinde sınırlamalar uygulamak için acele ederken, ABD yasa koyucuları harekete geçemiyor veya isteksiz görünüyor. Yetkililer ve sivil liderler Avustralya, Kanada, İrlandaVe İngiltere Yöneticilere ve milletvekillerine çağrıda bulunduk X’ten ayrıl tamamen. X, bir zamanlar hayati önem taşıyan kamusal meydan olan Twitter’ın, porno, yanlış bilgilendirme ve saçma sapan paylaşımlar için bir cennetten biraz daha fazlasına dönüşmesiyle son kalıntılarını da kaybediyor.
ABD yasalarına göre, sosyal medya platformlarının ve diğer web sitelerinin, yapay zeka tarafından oluşturulan görüntüler de dahil olmak üzere, kişinin izni olmadan oluşturulan veya yayınlanan cinsel içerikli görüntüleri bildirimden sonra 48 saat içinde kaldırması gerekiyor. Bu içeriğe uzun süredir “intikam pornosu” adı veriliyor ancak deepfake’lerin ortaya çıkışı ve artık Grok’un kolay oluşturulan istem aracı, bu olgunun kapsamını ve ölçeğini büyük ölçüde genişletti. Medya bu yeni aşamayı hızla “dijital soyunma” olarak adlandırdı.
Ancak yasaya rağmen Musk’un platformu, bir uyarıya bile yanıt vermekte yavaş kaldı. rica etmek eski ortaklarından birinden, X’in hem yetişkin olarak hem de küçükken çekilmiş görüntülere dayanarak dijital olarak çıplak fotoğraflarını kaldırmasını istedi. Musk ve X’in güvenlik ekibi tekrarlandı sitedeki tüm yasa dışı görüntülerin kaldırılması için çalıştıklarını ve kullanıcıları herhangi bir CSAM’yi federal yetkililere bildirmeye çağırdılar.
Ama CNN ayrıca raporlar Musk’ın görselleri sansürleme fikrine karşı olduğunu ve görsel yönlendirme aracının piyasaya sürülmesinden önce güven ve güvenlik ekibini önemli ölçüde küçülttüğünü ve tam olarak bu senaryoyla ilgili endişelerini dile getiren çok sayıda personeli işten çıkardığını söyledi.
Aslında Musk, yasa dışı içerik üretmesini engellemek için daha sıkı bir filtre yerleştirilene kadar aracı kapatmak yerine, araçtan kâr elde etmek için garip bir hileye girişti. 9 Ocak’ta aracı kısmi bir ödeme duvarının arkasına yerleştirerek yalnızca doğrulanmış kullanıcılarla sınırlandırdığını iddia etti.
Ancak bu iddia neredeyse hiç doğru gibi görünmüyor: Kullanıcılar artık Grok’u diğer gönderilere yanıt olarak doğrudan yönlendiremese de, yayınlanma tarihi itibarıyla aracın tamamı kullanıma sunuldu. hala görünüyor tüm X kullanıcıları için, web sitesindeki herhangi bir görselin üzerine gelindiğinde kolayca erişilebilir. Ücretsiz kullanıcılar yine de Grok’un kendi ayrı web sitesine gidebilir ve aracı kullan Orası.
Başka bir deyişle, Musk, aracı kilitlemediği halde aracı kilitlediğini iddia ederek, insanları doğrulanmak için kaydolmaya (ücretli bir ayrıcalık) zorlamak için bir bahane yaratıyor gibi görünüyor; böylece kullanıcıların ürettiği içerikten, aslında anlamlı bir şekilde kısıtlamak yerine, bu içerikten kazanç elde ediliyor.
İçerikten kâr elde etmeye hevesli olsa da Musk, kendi ifadeleri Yasadışı fotoğraf seli hakkında Grok’un bundan sorumlu tutulması gerektiğini düşünmediğini açıkça ortaya koyuyor. Onun duruşu, muhafazakar ABD milletvekilleri için büyük bir kırışıklığı temsil ediyor. uzun zamandır zayıflamaya çalışıyordu ve hatta tamamen devrildi Bölüm 230 1996 tarihli İletişim Ahlakı Yasası, Amerika Birleşik Devletleri’nde internet özgürlüğünün önemli bir güvencesi olup, internet platformlarının, kullanıcılarının gönderdiklerinden sorumlu tutulamayacağını garanti etmektedir.
Bölüm 230, çevrimiçi olarak yayınlanan yasa dışı içeriğe hiçbir zaman uygulanmadı, ancak öyle olsa bile, son on yılda yasa koyucular, hırpalanmış 230, görünüşte CSAM ile mücadele etmek ve çocukları cinsel tacizcilerden korumak için tasarlanmış bir dizi yasayla tekrar tekrar yürürlüğe girdi. orantısız olarak etkileyen LGBTQ insanlar, seks işçilerive seks eğitimcileri.
Ancak Musk, platformunun çevrimiçi CSAM ve rıza dışı görüntülere karşı çok sayıda yasayı açıkça ihlal etmesine rağmen Bölüm 230’u açıkça bir kalkan olarak kullanıyor. Şu ana kadar ABD mahkemeleri doğru eğildi Grok gibi yerleşik platform araçlarının kullanıcıların oluşturmasına olanak sağladığı yasa dışı içerikten kullanıcıları değil platformları sorumlu tutuyor.
Bu arada ABD Adalet Bakanlığı, CNN’e güvence verdi “Herhangi bir CSAM üreticisini veya sahibini agresif bir şekilde kovuşturacağını” söyledi. Yine de ABD yasaları, yapay zeka tarafından oluşturulan görüntülerden yasal olarak kimin sorumlu olduğunu (kullanıcı mı yoksa alet üreticisi mi) henüz kesin olarak belirlemedi; dolayısıyla Musk, Bölüm 230’un kendisine ve her internet sitesi sahibine sunduğu korumaların arkasına saklanma hakkına sahiptir.
Normalde bunun bir önemi olmaz. Cumhuriyetçi milletvekilleri, CSAM üreten bir web sitesine dava açmayı kolay bir kazanç ve acil bir öncelik olarak göreceklerdir; bu, Backpage gibi web sitelerinin kapatılmasına ve bazı eyaletlerde yaş doğrulama ağ geçitlerinin ortaya çıkmasına yol açan türden agresif bir arayıştır.
Ancak bu kez rahatsız edici web sitesinin sahibi hem dünyanın en zengin adamı hem de ABD Başkanı Donald Trump’ın önemli bir müttefiki. Bu, CSAM Musk’un eğlenceli oyuncağı ne kadar üretirse üretsin, Grok’a karşı baskı kurmanın şu anda iktidardaki Cumhuriyetçi milletvekilleri için yüksek bir öncelik olma ihtimalinin düşük olduğu anlamına geliyor.
Cuma günü, aralarında Bölüm 230’un yazarlarından Senatör Ron Wyden’ın da bulunduğu üç Senato Demokratı en ılımlı adımı atmıştı. çağırmak Google ve Apple, X ve Grok’u uygulama mağazalarından kaldıracak ve X’in CSAM ve rıza dışı görüntüler üreterek uygulama mağazalarının ilgili kurallarını açıkça ihlal ettiğine dair son derece açık bir gözlem yapacak. içerik politikaları. Şimdiye kadar, politikaları ihlal eden veya ihlal ediyor gibi görünen uygulamaları genellikle hızlı bir şekilde kaldıran Google ve Apple, izin verilen X mağazalarında kalmaya devam edecek.
Yayınlandığı sırada Senatör Ted Cruz ve Marsha Blackburn’ün de aralarında bulunduğu bir avuç önde gelen Cumhuriyetçi, X ve Musk’a karşı görüş belirtmişti. Geçen hafta Washington’da yapılan bir toplantıda Başkan Yardımcısı JD Vance bildirildiğine göre söylendi İngiltere Başbakan Yardımcısı David Lammy, Grok görsel aracını “kabul edilemez” bulduğunu ve üretken yapay zekanın “aşırı pornografi içeren pislikler” ürettiğini ancak bu konuda harekete geçmek istediğine dair çok az işaret gösterdiğini söyledi.
Verge olarak işaret ediyorBu, X’i fiilen düzenleme rolünün varsayılan olarak, yasa dışı içeriğe karşı kendi internet yasalarını güçlendirmiş olan bireysel eyaletlere devredilebileceği anlamına gelebilir, ancak X’in boyutu göz önüne alındığında, platformun yaklaşık 125 milyon günlük kullanıcılar; bu zor olabilir.
Ancak ABD yetkililerinin bu suskunluğu yurtdışındaki yetkililerin ağırlığını koymasını engellemedi ve onların öfkesi bundan daha açık olamazdı. Dünyanın her yerinde liderler X ve Musk’ı kınıyor. Onlarca ülkeHindistan, Fransa, Brezilya ve Avrupa Komisyonu da dahil olmak üzere, Grok’un içeriğinin kapsamı hakkında soruşturma başlattılar veya X’i ülkelerinden tamamen çıkarmakla tehdit ettiler.
Avrupa Komisyonu sözcüsü Thomas Regnier, “Bu ‘baharatlı’ değil” dedi gazetecilere anlattı Pazartesi gününde. “Bu yasa dışı. Bu korkunç. Bu iğrenç. Biz bunu böyle görüyoruz ve bunun Avrupa’da yeri yok.”
Regnier, AB’nin yaptırımlarına atıfta bulunarak, “X’in, DSA’nın uygulanması konusunda çok ciddi olduğumuzun çok iyi farkında olduğunu düşünüyorum” diye ekledi. Dijital Hizmetler YasasıWeb sitelerindeki kullanıcı deneyimlerini dikkatle düzenleyen. Ayrıca, Grok’un Kasım ayında meydana gelen bir olay nedeniyle Avrupa Komisyonu’nun X’i yakın zamanda para cezasına çarptırdığını da belirtti. Holokost inkarı.
Birleşik Krallık’ta politikacıların Grok hakkındaki kargaşası, Musk ve X’e karşı sürekli yoğun tepkilere ve çok sayıda devlet kurumunun soruşturmalarına yol açtı. İngiltere Başbakanı Keir Starmer desteğini attı Platformu düzenlemek için Birleşik Krallık’ın medya düzenleme ofisi Ofcom’un arkasında ve Teknoloji Bakanı Liz Kendall, önerilen Birleşik Krallık’ın, deepfake’lere karşı yasalarını ihlal ettiği için X’i engelleyeceğini söyledi. Cevap olarak Musk sanık Birleşik Krallık “ifade özgürlüğünü bastırmak” istiyor.
Bu, küresel yetkililerin ABD teknoloji şirketlerini genellikle gizlilik sorunları nedeniyle kısıtlamak için acele ettiği ilk sefer değil. Silikon Vadisi’nin en büyük şirketleri yıllardır yaptırımlarla mücadele ediyor ve ödeme yapıyor para cezaları Platformların özel kullanıcı verilerinin kullanımını kısıtlayan AB’nin Genel Veri Koruma Yönetmeliği uyarınca.
Bu eşi benzeri görülmemiş en yeni cephe hattı, bazı ülkelerdeki düzenleyicileri zorluyor gibi görünüyor. Almanya Ve EndonezyaSuçluların sadece düzenleyici yetkiyle değil, ceza mahkemelerinde de kovuşturulmasının değerlendirilmesi. Pazar günü Endonezya ve Malezya ilk ülkeler oldu. geçici olarak yasaklamak Grok aracı; Bunun, özelliğin X’ten kaldırılmasını mı kapsadığı yoksa yalnızca ayrı Grok uygulaması için mi geçerli olduğu belli değil.
Şu ana kadar çok az ülkenin, tüm öfkeye rağmen, konuyla ilgili düzenleyici soruşturmalar başlatmaktan daha ileri gittiği görülüyor. Eleştirmenler İngiltere’nin tepkisini “endişe verici derecede yavaş.” Cumartesi günü İngiliz medyası rapor edildi Birleşik Krallık’ın X’e ortak yaptırım veya yasaklama için Kanada ve Avustralya ile görüşmelerde bulunduğunu, ancak daha sonra Kanada’nın Yapay Zeka ve Dijital İnovasyon Bakanı Evan Solomon’un reddedildi bir yasağın yolda olduğunu söyledi.
Tüm bunlar, AB’nin, ABD’li teknoloji şirketlerinin internet ağı genişletmesini ve altyapısını destekleyen düzenlemelerini elden geçirmeye hazırlandığı bir dönemde gerçekleşiyor. bildirildiğine göre yasal olarak bağlayıcı yükümlülükler yerine “en iyi uygulamalar” kılavuzu olarak ele alınmasına izin verilecektir. Bu, AB’nin Aralık ayında X $ 140 milyon para cezasına çarptırılmasının ardından geldi. tepki çekti Görünüşe göre Trump yönetiminden resmi tehdit ABD Ticaret Temsilciliği ofisinden, AB’nin ABD teknoloji şirketlerine karşı “ayrımcı yöntemler” kullanmaya devam etmesi halinde misilleme yapması için X tarihinde yayınlanan bir emir.
Sonra bir gerçek var ki, 404 Medya olarak not edildiHem Musk hem de önceki Twitter sahibi Jack Dorsey, site genelinde şaşırtıcı miktarda CSAM’in çoğalmasını denetledi; Musk’ın mülkiyeti altında ve üretken yapay zekanın ortaya çıkışıyla birlikte sorun patladı.
Birden fazla medya kuruluşu Musk’un yapay zeka şirketi xAI ile iletişime geçmeyi denediğinde hepsi kabul edilmiş aynı otomatik oluşturulmuş yanıt: “Eski medya yalan söylüyor.” Hükümetler aynı tepkiyi alacak mı?
Source link
