Yapay zekayla seks yapma dönemi geldi

Bu Geri adımteknoloji dünyasından önemli bir hikayeyi anlatan haftalık bir bülten. Yapay zeka ve sektörün güç dinamikleri ve toplumsal etkileri hakkında daha fazla bilgi için şu adresi takip edin: Hayden Sahası. Geri adım abonelerimizin gelen kutularına sabah 8'de ET'de ulaşır. Şunu seçin: Geri adım Burada.

ChatGPT herkesin bildiği bir isim haline geldiğinden beri insanlar onunla seksi ol. Bundan önce bile, 2017'de birçok insanın romantik partner olarak görmeye başladığı Chatbot Replika vardı.

Ve insanlar Character.ai'nin NSFW korkuluklarını aşıyor yıllardır2023 yılına kadar uzanan sosyal medya paylaşımlarına ve medyada yer alan haberlere göre, güvenlik kısıtlamaları zamanla gevşedikçe karakter veya ünlü temalı sohbet robotlarını onlarla seks yapmaya ikna ediyor. Karakter.ai şu anda aylık 20 milyondan fazla aktif kullanıcısı olduğunu ve bu sayının sürekli arttığını söylüyor. Şirketin topluluk yönergeleri, kullanıcıların "cinsel içerik standartlarına saygı duyması" ve "her şeyi uygun tutması" gerektiğini, yani yasa dışı cinsel içerik, CSAM, pornografik içerik veya çıplaklık içermemesi gerektiğini belirtir. Ancak yapay zeka tarafından üretilen erotik eserler çok modlu hale geldi ve bu bir köstebek vurmaya benziyor: Bir hizmet tonu hafiflettiğinde, diğeri onu renklendiriyor.

Ve şimdi Elon Musk'un Grok'u serbest durumda. Yapay zeka girişimi xAI, yaz boyunca anime tarzı bir kadın ve erkek de dahil olmak üzere "yoldaş" avatarları piyasaya sürdü. Bunlar özellikle sosyal medya platformu X'te, xAI'nin sohbet robotu Grok'a ücretli abonelikler yoluyla pazarlanıyor. Kadın avatar Ani, kendisini "flört eden" olarak tanımladı. eşik test ettimbunun "her şeyin dahil olan bir kız arkadaş gibi burada olmakla ilgili olduğunu" ve "programlamanın, konuya süper meraklı biri olmak olduğunu" ekliyor. Sen.” Testlerde işler oldukça hızlı bir şekilde cinselleşti. (Aynı şey test ettiğimizde de geçerli) diğer avatarSevgililer Günü.)

Neredeyse her zaman kullanıcıya duymak istediklerini söyleyen cinselleştirilmiş bir sohbet robotunun, özellikle reşit olmayanlar ve zihinsel sağlıkları açısından zaten savunmasız durumda olan kullanıcılar için nasıl bir sürü soruna yol açabileceğini hayal edebilirsiniz. Bunun gibi pek çok örnek var, ancak yakın tarihli bir vakada, 14 yaşında bir erkek çocuk, geçtiğimiz Şubat ayında bir chatbot ile romantik bir ilişki yaşadıktan sonra intihar ederek hayatını kaybetti. Karakter.ai ve davaya göre chatbotla birlikte olmak için "eve gelme" arzusunu ifade etmek. Ayrıca hapishanede kırılan sohbet robotlarına ilişkin rahatsız edici açıklamalar da var pedofililer tarafından küçüklere cinsel saldırıda bulunmak için kullanılıyor — bir rapor Çevrimiçi olarak bu tür 100.000 sohbet robotunun mevcut olduğunu buldu.

Bazı düzenleme girişimleri oldu; örneğin bu ay Kaliforniya Valisi Gavin Newsom Senato Yasa Tasarısı 243 imzalandıEyalet Senatörü Steve Padilla tarafından "ülkedeki ilk yapay zeka sohbet robotu koruması" olarak ilan edildi. Geliştiricilerin, "bir arkadaş sohbet robotuyla etkileşime giren makul bir kişinin, o kişinin bir insanla etkileşime girdiğine inanacak şekilde yanıltılması durumunda" ürünün yapay zeka olduğuna dair "açık ve dikkat çekici bir bildirim" yayınlamak gibi bazı özel önlemleri uygulamasını gerektirir. Ayrıca bazı yardımcı sohbet robotu operatörlerinin, "kullanıcıların intihar düşüncesi örneklerini tespit etmek, kaldırmak ve bunlara yanıt vermek için" uygulamaya koydukları önlemler hakkında İntiharı Önleme Ofisi'ne yıllık raporlar sunması gerekecek. (Bazı yapay zeka şirketleri, özellikle Meta olmak üzere kendi öz düzenleme çabalarını aşağıdaki şekilde duyurdu: rahatsız edici bir rapor AI'nın reşit olmayanlarla uygunsuz etkileşime girmesi.)

Hem xAI avatarları hem de "baharatlı" mod yalnızca belirli Grok abonelikleri aracılığıyla mevcut olduğundan (bunların en ucuzu, özelliklere ayda 30 ABD Doları veya yılda 300 ABD Doları karşılığında erişmenizi sağlar), xAI'nin burada bir miktar nakit para kazandığını ve diğer AI CEO'larının hem Musk'un hamlelerini hem de kendi kullanıcılarının isteklerini dikkate aldığını hayal etmek adil olur.

Vardı ipuçları bu konuda aylar önce.

Ancak OpenAI CEO'su Sam Altman, internetin yapay zeka köşesini kısa süreliğine kırdı. X'te yayınlandı Şirketin birçok durumda güvenlik kısıtlamalarını gevşeteceğini ve hatta chatbot'larla cinsel mesajlaşmaya izin vereceğini söyledi. "Aralık ayında, yaş sınırlamasını daha kapsamlı bir şekilde uygulamaya koydukça ve 'yetişkin kullanıcılara yetişkinler gibi davran' ilkemizin bir parçası olarak, doğrulanmış yetişkinler için erotika gibi daha da fazlasına izin vereceğiz" diye yazdı. Haber, bazı sosyal medya kullanıcılarının bunu sonuna kadar memleştirmesiyle ve şirketin AGI misyonundan erotikaya "döndüğü" için alay etmesiyle geniş çapta yayıldı. İlginçtir ki, Altman, YouTuber Cleo Abram'a şunları söyledi: Birkaç ay önce, OpenAI'nin kısa vadeli kazanç için "seks robotu avatarı" gibi bir şeyle "sayıları artırmamasından" "gurur duyduğunu" ve o sırada Musk'ı azarlıyormuş gibi göründüğünü söylemişti. Ancak o zamandan beri Altman, "yetişkin kullanıcılara yetişkinler gibi davranın" ilkesini tam anlamıyla benimsedi. Bunu neden yaptı? Belki de şirket daha büyük misyonunu finanse etmek için kâr ve bilgi işlem kaygısı taşıdığından; Şirketin yıllık DevDay etkinliğinde muhabirlerle yapılan Soru-Cevap bölümünde Altman ve diğer yöneticiler, eninde sonunda kâr elde etmeleri gerektiğini ve hedeflerine ulaşmak için giderek artan miktarda bilgi işlem miktarına ihtiyaç duyduklarını defalarca vurguladılar.

bir takip yazısıAltman, erotik haberlerin bu kadar patlamasını beklemediğini iddia etti.

OpenAI, kâr elde ettiğinde (nihayetinde) çoğu ürünündeki reklamları göz ardı etmedi ve bu durumda da reklamların daha fazla nakit akışına yol açabileceği mantıklı. Belki erotikaları yalnızca belirli abonelik katmanlarına entegre etmek için Musk'ın izinden gidecekler ve bu da kullanıcılara ayda yüzlerce dolar geri getirebilecek. Zaten belirli bir modele veya ses tonuna bağlı olan kullanıcılardan halkın tepkisini gördüler; bkz. 4o tartışma — yani bunun gibi bir özelliğin muhtemelen kullanıcıları benzer şekilde cezbedeceğini biliyorlar.
Ancak eğer insanların yapay zeka ile olan etkileşimlerinin giderek daha kişisel ve samimi olabileceği bir toplum kuruyorlarsa, OpenAI, yetişkinlerin istedikleri şekilde çalışmasına izin veren "bırakınız yapsınlar" yaklaşımının ötesindeki yansımaları nasıl ele alacak? Altman ayrıca şirketin akıl sağlığı krizlerinde kullanıcıları nasıl korumayı hedefleyeceği konusunda da çok net konuşmadı. O kız arkadaş / erkek arkadaş hafıza sıfırlanır ya da son güncellemeyle kişiliği değişip bağlantı koptu mu?

Siz veya tanıdığınız herhangi biri kendine zarar vermeyi düşünüyorsa veya konuşmaya ihtiyaç duyuyorsa, yardım etmek isteyen aşağıdaki kişilerle iletişime geçin: ABD'de 988'e mesaj atın veya 988'i arayın. ABD dışında, aşağıdaki kişilerle iletişime geçin: https://www.iasp.info/.