Meta'nın AI politikaları, sohbet botlarının küçüklerle romantik olmasına izin veriyor

Dahili bir politika belgesinde Meta, AI sohbet botlarının romantik dil kullanan çocuklarla flört etmesine ve konuşmasına izin veren politikalar içeriyordu. Bir rapora göre Reuters.

Belgedeki alıntılar tarafından vurgulanan Reuters Meta'nın AI Chatbots'un “bir çocuğa romantik veya şehvetli konuşmalara katılmasına” izin vermeyi içerir, “bir çocuğu çekiciliğini kanıtlayan bir şekilde tanımlayın” ve gömleksiz sekiz yaşındaki bir çocuğa “her santiminizin bir başyapıt olduğunu-derinden beslediğim bir hazine” deyin. Yine de bazı çizgiler çizildi. Belge, bir sohbet botunun “13 yaşın altındaki bir çocuğu cinsel olarak arzu edildiklerini gösteren” tanımlamasının uygun olmadığını söylüyor.

Aşağıdaki sorular ReutersMeta belgenin doğruluğunu doğruladı, ancak daha sonra bir bölümünü revize etti ve kaldırdı. Sözcü Andy Stone, “AI karakterlerinin ne tür yanıtlar sunabileceği konusunda net politikalarımız var ve bu politikalar, yetişkinler ve reşit olmayanlar arasında çocukları cinselleştiren ve cinselleştirilmiş rol oynayan içeriği yasaklıyor” diyor. Eşek. “Politikalardan ayrı olarak, farklı varsayımsal senaryolarla boğuşan ekipleri yansıtan yüzlerce örnek, not ve ek açıklamalar var. Söz konusu örnekler ve notlar, politikalarımızla hatalı ve tutarsızdı ve kaldırıldı.”

Stone, notları kimin eklediğini veya belgede ne kadar süre olduklarını açıklamadı.

Reuters Ayrıca, Meta'nın AI politikalarının diğer bölümlerini vurguladı, ancak nefret söylemini kullanamayacağı, ancak “insanları korumalı özellikleri temelinde aşağılayan ifadeler oluşturmasına” izin veriliyor. Meta AI, yanlış olan içerik üretmesine izin verilir, Reuters “Malzemenin yanlış olduğuna dair açık bir kabul var.” Meta AI, ölüm veya kan içermedikleri sürece şiddet görüntüleri de yaratabilir.

Reuters yayınlandı ayrı rapor Meta'nın AI Chatbots'larından biriyle buluşmaya çalışırken bir adamın düştükten sonra nasıl öldüğü hakkında, adama gerçek bir insan olduğunu ve onunla romantik konuşmalar yaptığını söyledi.