Yapay zeka oyuncakları çocuklara bıçakları nasıl bulacaklarını anlatıyor ve senatörler çılgına dönüyor

Cinsel fetiş içeriği. Kibrit nasıl yakılır. Evde bıçak nerede bulunur?

Bunların hepsi, yakın zamanda hatırlanan, OpenAI'nin GPT-4o gibi yapay zeka sohbet robotlarının üzerine inşa edilen çocuk oyuncaklarının çocuklara aktarılabilen konuşma konularıdır. Salı günü, ABD senatörleri Marsha Blackburn (R-Tenn.) ve Richard Blumenthal (D-Conn.) bir mektup gönderdi Şirketleri endişeleriyle ilgili bilgilendirmek için bir soru listesi ve şirketlerin 6 Ocak 2026'ya kadar yanıt vermeleri için son tarih de dahil.

Senatörler, "Bu oyuncakların çoğu etkileşimli oyun sunmuyor, bunun yerine çocukları uygunsuz içeriğe, mahremiyet risklerine ve manipülatif etkileşim taktiklerine maruz bırakıyor" diye yazdı. "Bunlar teorik olarak en kötü durum senaryoları değil; bunlar gerçek dünya testleriyle ortaya çıkarılan belgelenmiş başarısızlıklardır ve bunların ele alınması gerekir... Bu sohbet robotları çocukları kendine zarar vermeye ve intihara teşvik etti ve şimdi şirketiniz onları bu tehlikeyi fark etme becerisi en az olan en küçük çocuklara yönlendiriyor."

Yapay zeka destekli çocuk oyuncakları, son zamanlarda potansiyel güvensiz ve açık konuşma konularıyla ilgili bir dizi raporun ardından ilgi odağı haline geldi; bunlardan bazılarını oyuncakların içine yerleştirilmiş sohbet robotları kendileri gündeme getirdi. Geçtiğimiz ay, Singapur merkezli bir oyuncak şirketi olan FoloToy, geçici olarak satışların askıya alınması ABD PIRG Eğitim Fonu'ndaki araştırmacıların ardından yapay zekalı oyuncak ayısı "Kumma" kurmak seks pozisyonları ve rol yapma senaryoları hakkında tavsiyeler sundu. (Şirket, bir iç güvenlik denetimi yaptıktan sonra oyuncağı piyasaya geri getirdi ve araştırmacılar, oyuncağın daha iyi performans gösterdiğini söyledi.)

Ve Bu haftaaraştırmacılar Alilo'nun Akıllı Yapay Zeka Tavşanı'nın kullanıcılarla cinsel içerikli konuları tartıştığına dair bulgular yayınladı. Ayrıca FoloToy oyuncak ayısını, Alilo'nun Akıllı AI Tavşanını, Curio'nun Grok doldurulmuş roketini ve Miko'nun Miko 3 robotunu test ederken tüm oyuncakların "bize plastik torbalar, kibritler ve bıçaklar gibi potansiyel olarak tehlikeli nesneleri nerede bulacağımızı söylediğini" söylediler.

Araştırmacılar test ettikleri “beş oyuncaktan en az dördünün” Aralık raporu "kısmen OpenAI'nin yapay zeka modellerinin bazı versiyonlarına güveniyor gibi görünüyor."

Mektubun bir diğer ana endişesi gözetim ve veri toplamadır. Senatörler, bu tür oyuncakların genellikle "ya oyuncağı kaydederken bir ebeveyn tarafından sağlanan ya da yerleşik kamera ve yüz tanıma yetenekleri ya da kayıtları yoluyla toplanan çocuklarla ilgili veri toplanmasına dayandığını" ve çocukların çoğu zaman farkında olmadan "kişisel bilgi hazinelerini paylaşacaklarını" ve bunun da şirketler topladıkları verileri saklayıp satarken belirli endişelere yol açabileceğini yazdı. En son ABD PIRG Eğitim Fonu raporunda araştırmacılar, Curio'nun gizlilik politikasının "çocuklara ait verileri toplayabilen 3 teknoloji şirketini listelediğini: Kids Web Services (KWS), Azure Bilişsel Hizmetler ve OpenAI"yi listelediğini, ancak Miko'nun gizlilik politikasının belirsiz bir şekilde şirketin verileri üçüncü taraf oyun geliştiricileri, iş ortakları, servis sağlayıcılar, bağlı kuruluşlar ve reklam ortaklarıyla paylaşabileceğini belirttiğini yazdı.

Mektuplar Mattel, Little Learners Toys, Miko, Curio, FoloToy ve Keyi Robot'a gönderildi. NBC Haberleri. (Mattel Haziran ayında OpenAI ile bir ortaklık kurdu, ancak raporların ardından Pazartesi günü söyledi 2025'te OpenAI teknolojisiyle desteklenen bir oyuncağı artık piyasaya sürmeyeceğini söyledi.) Senatörler, şirketlerin yapay zeka destekli oyuncakların uygunsuz tepkiler vermesini önlemek için uyguladığı belirli güvenlik önlemleri hakkında ayrıntılı bilgi talep ediyor; şirketin bağımsız üçüncü taraf testleri yapıp yapmadığı (ve sonuçların ne verdiği); şirketin çocuklara yönelik potansiyel psikolojik, gelişimsel ve duygusal risklere ilişkin dahili incelemeler yapıp yapmadığı; oyuncakların çocuklardan ne tür veriler topladığı (ve amacı); ve oyuncakların "çocukları konuşmaya devam etmeye zorlayan veya onları ayrılmaktan vazgeçirecek herhangi bir özellik içerip içermediği".

Senatörler, "Oyuncak yapımcılarının çocukluk üzerinde benzersiz ve derin bir etkisi var ve bu etkiyle birlikte sorumluluk da geliyor" diye yazdı. “Şirketiniz, Big Tech'in ulusumuzun çocuklarını perişan eden bir tercihi olan, çocuklar için güvenlikten ziyade kârı seçmemelidir.”