Salı günü Openai CEO’su Sam Altman, şirketin gizlilik, özgürlük ve genç güvenliğini dengelemeye çalıştığını söyledi – itiraf ettiği ilkeler çatışıyor. Onun Blog yazısı Bir Senato duruşmasının, suç ve terörle mücadele alt komitesi tarafından düzenlenen ve sohbet botlarıyla konuştuktan sonra intiharla ölen çocukların bazı ebeveynlerini içeren AI sohbet botlarının zararını incelemeye odaklanan bir Senato duruşmasından saatler önce geldi.
“18 yaşın altındaki kullanıcıları olmayanlardan ayırmak zorundayız,” diye yazdı Altman, şirketin “insanların Chatgpt’i nasıl kullandıklarına bağlı olarak yaşı tahmin etmek için bir yaş tahmin sistemi oluşturma sürecinde olduğunu da sözlerine ekledi. Şüphe varsa, 18 yaş altı deneyime göre güvenli ve temerrüde düşeceğiz. Ayrıca bir kimlik isteyebiliriz.
Altman ayrıca, şirketin, çapkın konuşmalardan uzak durma veya intihar veya kendine zarar verme ile ilgili konuşmalara katılmak da dahil olmak üzere genç kullanıcılara farklı kurallar uygulamayı planladığını söyledi. “Yaratıcı bir yazma ortamında bile. Ve 18 yaş altı bir kullanıcı intihar düşüncesine sahipse, eğer yapamazsa, yakın zarar durumunda yetkililerle iletişime geçeceğiz” dedi.
Altman’ın yorumları şirketin peşinden geliyor Paylaşılan Planlar Bu ayın başlarında ChatGPT içindeki ebeveyn kontrolleri için, bir hesabı bir ebeveynle ilişkilendirmek, bir gencin hesabı için sohbet geçmişini ve hafızasını devre dışı bırakmak ve chatgpt, gençleri “akut sıkıntı anında” olarak işaretlediğinde bir ebeveyne bildirim göndermek de dahil olmak üzere. Blog yazısı, intiharla ölen bir genç olan Adam Raine ailesinin davasından sonra geldi Chatgpt ile aylarca konuştuktan sonra.
Rahmetli Adam Raine’in babası Matthew Raine, Salı günü duruşma sırasında “aylar intihara doğru koçluk yapmak” için harcadı. “Ebeveynler olarak, çocuğunuzu kendi hayatını alması için tımar eden bir sohbet botu ile bir sohbet okumanın nasıl bir şey olduğunu hayal edemezsiniz. Bir ödev yardımcısı olarak başlayan şey, yavaş yavaş bir sırdaş ve sonra bir intihar koçuna dönüştü.”
Gençin Chatgpt ile yaptığı konuşmalar sırasında Raine, Chatbot’un intihardan 1.275 kez bahsettiğini söyledi. Raine daha sonra doğrudan Altman’a hitap etti ve şirketin güvenli olduğunu garanti edemediği sürece GPT-4O’yu piyasadan çekmesini istedi. “Adam’ın öldüğü gün Sam Altman… felsefelerini halka açık bir konuşmada kristal berraklığında hale getirdi,” dedi Raine, Altman’ın şirketin “AI sistemlerini dünyaya dağıtması ve riskler nispeten düşükken geri bildirim alması gerektiğini” söyledi.
Duruşma sırasında firmanın AI programlarının kıdemli direktörü Robbie Torney, Common Sense Media tarafından ulusal yoklama başına, şu anda AI arkadaşlarını kullanıyor. Özellikle AI ve Meta karakterinden bahsetti.
Jane Doe adı altında görünen bir anne, çocuğunun AI ile ilgili deneyimi hakkındaki ifadesi sırasında “Bu bir halk sağlığı krizi” dedi. “Bu bir akıl sağlığı savaşı ve gerçekten kaybettiğimizi hissediyorum.”
Source link
