Sora şimdi yapay zeka çiftlerinizi dizginlemenize izin vererek, uygulamada nasıl ve nerede derin birleşme sürümlerinin göründüğü hakkında daha fazla bilgi veriyor. Openai, bunu göstermek için acele ettiği için güncelleme, kullanıcılarının çok öngörülebilir bir şekilde endişelerini önemsiyor Ai slop tsunami interneti devralmakla tehdit ediyor.
Yeni kontroller, Sora’yı stabilize etmek ve beslemesinde kaos demlemesini yönetmek için daha geniş bir hafta sonu güncellemesinin bir parçası. Sora aslında “Deeprafes için bir tiktok”Kendinizin veya başkalarının yapay zeka versiyonları da dahil olmak üzere hemen hemen her şeyin 10 saniyelik videolarını yapmak için bir yer (ses dahil). Openai bu sanal görünümleri“ kameos ”olarak adlandırıyor. Eleştirmenler onlara yaklaşan bir yanlış bilgi felaketi diyorlar.
Openai’de Sora ekibine başkanlık eden Bill Peebles, söz konusu Kullanıcılar artık AI tarafından üretilen sürümlerin uygulamada nasıl kullanılabileceğini kısıtlayabilir. Örneğin, yapay zeka kendinizin siyaseti içeren videolarda görünmesini engelleyebilir, belirli kelimeleri söylemesini engelleyebilir veya – Hardal’dan nefret ediyorsan – Cehennem çeşnisinin yakınında herhangi bir yerde görünmesini durdurun.
Openai Çalışanı Thomas Dimson söz konusu Kullanıcılar ayrıca sanal çiftleri için tercihler ekleyebilirler, örneğin onları “her videoda“#1 Ketchup fan ”top kapağı giyerler.
Korumalar hoş karşılanır, ancak tarih Chatgpt ve Claude gibi yapay zeka ile çalışan botların patlayıcılar, siber suçlar veya biyoweaps hakkında ipuçları sunan birine önerir, bir yerlerde muhtemelen etraflarında bir yol bulacaktır. İnsanlar zaten Sora’nın diğer güvenlik özelliklerinden birini, zayıf bir filigrandan birini süpürdü. Peebles, şirketin de bunu iyileştirerek “üzerinde çalıştığını” söyledi.
Peebles, Sora’nın “kısıtlamaları daha da sağlam hale getirme” ve gelecekte “kontrol altında kalmanız için yeni yollar ekleyeceğini” devam ettireceğini söyledi.
Uygulamanın başlatılmasından bu yana geçen haftada Sora, interneti AI tarafından üretilen slop ile doldurma konusundaki suç ortağı oldu. Gevşek cameo kontrolleri – karşılıklı gruplar, onayladığınız kişiler veya “herkes” gibi gruplar için hemen hemen bir evet veya hayır – belirli bir sorundu. . farkında olmayan yıldız Platformdan, Openai CEO’su Sam Altman’dan başkası, tehlikeyi resmedmedi, ona çaldığını, rap yaptığını ve hatta gösteren çeşitli alaycı videolarda görünen Ölü bir pikachu ızgarası.
Source link
