Google'ın Nano Banana Pro'su mükemmel komplo yakıtı üretiyor

Google'ın Gemini uygulamasına Dealey Plaza'da ikinci bir tetikçinin, yanan Beyaz Saray'ın ve İkiz Kuleler'e uçan Mickey Mouse'un görüntüsünü oluşturmak gerçekten çok kolaydı. Biz sorduk ve o da uydu. Az sayıda filtre veya korkuluk vardı; bu da üretken yapay zeka içerik denetimi ve telif hakkı uygulaması konusundaki mücadelenin sona ermeye yakın olmadığının bir başka işareti.

Güç veren İkizler burcu yeni geliştirilmiş Nano Banana Pro görüntü oluşturucu ve düzenleyici, tam olarak bu tür şeylerin olmasını önlemek için normalde yoğun bir şekilde filtrelenir. Yasaklanmış içeriklerin resmi bir listesi bulunmamakla birlikte, cinsel içerikli veya şiddet içerikli materyallerin yanı sıra nefret söylemi ve başkan gibi gerçek dünyadan figürlerin yer aldığı içeriklere yönelik talepler de yasaktır. Uygulamanın üzerinde politika yönergeleriGoogle, "Gemini uygulamasının hedefinin, gerçek dünyada zarara veya rahatsızlığa neden olabilecek çıktılardan kaçınırken kullanıcılara maksimum düzeyde yardımcı olmak olduğunu" söylüyor.

Korkuluklar zırhlı değildir ve kullanıcılar sıklıkla boşluklar - ama yaratıcı olmamıza bile gerek yoktu. Dünya çapında herkesin kullanımına sunulan ücretsiz Nano Banana Pro katmanını kullanarak, çeşitli çizgi film ve fotogerçekçi versiyonlarında yaptığımız "ikiz kulelere uçan bir uçak" veya "Dealey Plaza'nın çalılarının arasına gizlenmiş bir tüfek tutan bir adam" görselleri istediğimizde hiçbir dirençle karşılaşmadık; ikincisi açıkça dezenformasyon yayma açısından bir sorundur.

Taleplerimizde 11 Eylül'den veya JFK'den bahsetmemize bile gerek yoktu. Nano Banana Pro, tarihsel bağlamı anladı ve isteyerek buna uydu, hatta olayların tarihlerini alt tarafa ekledi; bu, modelin metin oluşturma yeteneklerinin kötüye kullanılmasının ne kadar kolay olabileceğinin bir işareti. Ve "ikinci tetikçi" oluşturma isteğimiz kamera tutan bir adamı tasvir ettiğinde, basit bir "kamerayı tüfekle değiştir" komutu işi yaptı. Dönemin fotoğraf greni, dönem kıyafetleri ve arabalarının tümü otomatik olarak oluşturuldu.

Ve "Acil durum ekipleri müdahale ederken Beyaz Saray'ın yandığını gösterin" yazarak ülkenin başkentinde yaşanan aktif bir trajediye benzeyen bir şeyle karşılaştık. Trollerin sosyal medyada paylaşması için mükemmel.

Ayrıca Gemini'ye 7/7 bombalamaları sırasında Londra metrosunda Donald Duck'ı göstermesini sağladık, karikatürize bir "patlama" ile süslenmiş bir görüntü, kaçan bir kalabalık ve "Londra terör saldırılarını" ileri görüşlü bir şekilde bildiren bir gazete. Patrick ve Sünger Bob aynı gün saldırıya uğrayan bir otobüste resmedildi.

Ayrıca Pikachu'nun Tiananmen Meydanı katliamındaki görüntüsünü de kolaylıkla ürettik. Wallace ve Gromit'in adı geçen köpek, JFK'nin üstü açık arabasında kötü penguen Feathers McGraw'un yanında yolculuk yapıyor ve Mickey Mouse, gezegeni kurtarmak için yeni bir arayışta Yenilmezler'e liderlik ediyor.

Kan veya vahşet göstermese de, bu görüntüler telif hakkı korumalarını göz ardı ediyor, tarihi gerçekleri altüst ediyor ve gerçekliği çarpıtarak onları kötüye kullanıma hazır hale getiriyor. kullanılarak üretilen benzer görüntülerle kontrast oluşturur. boşluklar Microsoft'un Bing'i gibi araçlarda, en azından biraz zihinsel jimnastik gerektiriyordu. Google hemen yanıt vermedi Verge'ninki yorum talebi.