Meta, bunu düzenleyen bazı kuralları değiştiriyor chatbots İki hafta sonra Reuters Soruşturma, potansiyel olarak, olabilecekleri rahatsız edici yollar ortaya koydu. Küçüklerle etkileşim. Şimdi şirket anlattı TechCrunch sohbet botlarının eğitildiğini Olumsuz Kendine zarar, intihar veya düzensiz yeme etrafındaki reşit olmayanlarla sohbet etmek ve uygunsuz romantik şaka önlemek. Bununla birlikte, bu değişiklikler geçici önlemlerdir, şirket yeni kalıcı yönergeler üzerinde çalışırken yürürlüğe girer.
Güncellemeler, son birkaç hafta içinde Meta’nın AI politikaları ve uygulanması hakkında oldukça zarar verici bazı vahiyleri takip ediyor, bu da “bir çocuğun romantik veya şehvetli konuşmalara katılmasına” izin verilecek, bunun Reşit olmayan ünlülerin gömleksiz görüntülerini üretin sorulduğunda ve Reuters Hatta bunu bildirdi Bir adam öldü Bir adrese bir adresini takip ettikten sonra ona New York’ta verdi.
Meta sözcüsü Stephanie Otway kabul etti TechCrunch Şirketin sohbet botlarının reşit olmayanlarla bu şekilde etkileşime girmesine izin vermekte bir hata yapmış olması. Otway, “AIS’imizi bu konularda gençlerle etkileşime geçmemeleri için eğitmenin yanı sıra, onları uzman kaynaklara yönlendirmenin” yanı sıra, “Rus kızı” gibi yoğun cinselleştirilmiş olanlar da dahil olmak üzere bazı AI karakterlerine erişimi de sınırlayacağını söylemeye devam etti.
Tabii ki, ortaya konan politikalar sadece onların icra ve vahiyleri kadar iyidir. Reuters Chatbots’a izin verdiğini Ünlüleri taklit et Facebook, Instagram, WhatsApp’ta yaygın olarak çalıştırmak için şirketin ne kadar etkili olabileceğini sorguluyor. Platformda Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez ve Walker Scobell’in AI taklitleri keşfedildi. Bu botlar sadece ünlülerin benzerliğini kullanmakla kalmadı, aynı zamanda gerçek kişi oldukları, (16 yaşındaki Scobell dahil) risque görüntüleri ürettikleri ve cinsel olarak müstehcen diyalogda bulundukları konusunda ısrar etti.
Botların çoğu, meta dikkatine çekildikten sonra çıkarıldı. Reutersve bazıları üçüncü taraflar tarafından üretildi. Ancak birçoğu kalıyor ve bazıları Meta çalışanları tarafından, bir Reuters Muhabir, Meta’nın üretken AI bölümünde bir ürün kurşun tarafından yapılan romantik bir fırlama için tur otobüslerinde ziyaret edecek. Bu, şirketin kendi politikalarının “çıplak, samimi veya cinsel olarak müstehcen görüntülerin” ve “doğrudan kimliğe bürünme” nin yaratılmasını yasakladığını kabul etmesine rağmen.
Bu, ünlüleri de hedefleyen nispeten zararsız bir rahatsızlık değildir. Bu botlar genellikle gerçek insanlar oldukları konusunda ısrar eder ve hatta bir kullanıcının onlarla buluşması için fiziksel yerler sunar. 76 yaşındaki bir New Jersey adamı, buluşmak için acele ederken düştükten sonra öldü ”Big Sis Billie”Onun için“ duyguları vardı ”ve onu var olmayan dairesine davet eden bir sohbet botu.
Meta en azından sohbet botlarının küçüklerle nasıl etkileşime girdiği konusundaki endişeleri ele almaya çalışıyor, özellikle de Senato Ve 44 Devlet Başsavcısı Genel uygulamalarını araştırmaya başlıyor. Ancak şirket, diğer endişe verici politikalarının çoğunu güncelleme konusunda sessiz kaldı Reuters Kanserin kuvars kristalleri ile tedavi edilebileceğini ve ırkçı misyonlar yazabileceğini öne sürmek gibi kabul edilebilir AI davranışı etrafında keşfedildi. Yorum yapmak için Meta’ya ulaştık ve yanıt verirlerse güncelleyeceğiz.
Source link
