Wikipedia AI slop içeriğiyle nasıl savaşıyor

Yapay zeka yazma araçlarının yükselişi ile birlikte, Wikipedia editörleri yanlış bilgi ve sahte alıntılarla dolu AI tarafından oluşturulan içerik saldırısıyla uğraşmak zorunda kaldılar. Zaten, Wikipedia Gönüllüleri topluluğu, Wikimedia Vakfı Ürün Direktörü Marshall Miller'ın bir tür “bağışıklık sistemi” yanıtına benzeyen AI Sline ile savaşmak için seferber etti.

Miller, “İçeriğin tarafsız ve güvenilir kaldığından emin olmak için uyanıklar” diyor. “İnternet değiştikçe, yapay zeka gibi şeyler ortaya çıktıkça, bu bir tür yeni zorluğa uyum sağlayan ve nasıl işleneceğini anlayan bağışıklık sistemi.”

Wikipedians'ın muck boyunca slosing yapmasının bir yolu, kötü yazılmış makalelerin “hızlı silinmesi” ile ilgilidir. Daha önce bildirildiği gibi 404 Medya. A Wikipedia gözden geçiren Kural için desteği ifade eden “korkunç taslaklarla kesintisiz sular altında kaldıklarını” söyledi. Hızlı kaldırmanın “onunla mücadele etme ve önemsiz AI'nın geride bıraktığı sayısız saat tasarruf etme çabalarına büyük ölçüde yardımcı olacağını” ekliyorlar. Diğeri diyor Yapay zeka çıkışları içindeki “yalanlar ve sahte referanslar” “temizlemek için inanılmaz miktarda deneyimli editör zamanı” alıyor.

Tipik olarak, Wikipedia'da kaldırılması için işaretlenen makaleler yedi günlük tartışma dönemi topluluk üyeleri sitenin makaleyi silmeleri gerekip gerekmediğini belirler. . Yeni benimsenen kural izin verecek Wikipedia yöneticileri, bir makale açıkça AI üretiliyorsa ve gönderen kişi tarafından incelenmemişse, bu tartışmaları atlatacaklardır. Bu, üç ana işaret aramak anlamına gelir:

Ancak Ai Wikipedian'ların tek işaretleri değil. Bir parçası olarak Wikiproject AI temizliğiEditörler, “Soureded, kötü yazılmış AI tarafından üretilen içerik sorununun artması” ile mücadele etmeyi amaçlayan, Birlikte bir kelime öbeği ve biçimlendirme listesi Chatbot tarafından yazılmış makalelerin tipik olarak sergilediği özellikler.

Liste, EM Taşlarının (“ -”) aşırı kullanımını çağırmanın ötesine geçiyor. AI chatbots ile ilişkilive hatta “dahası” gibi belirli bağlaçların ve bir şeyi “nefes kesici” olarak tanımlamak gibi promosyon dili de içeriyor. Sayfanın Wikipedians'a düz olanlar yerine kıvırcık tırnak işaretleri ve kesme işaretleri de dahil olmak üzere dikkat etmelerini tavsiye ettiği başka biçimlendirme sorunları da var.

Bununla birlikte, Wikipedia'nın hızlı kaldırma sayfası, bu özelliklerin AI tarafından bir şeyin yazıldığını belirlemek için “kendi başlarına tek temel olarak hizmet etmemesi gerektiğini” not eder ve onu kaldırmaya tabidir. Hızlı silme politikası değil Sadece AI tarafından üretilen slop içeriği için de. Çevrimiçi ansiklopedi ayrıca, konusunu taciz eden, aldatmaca veya vandalizm içeren veya diğer şeylerin yanı sıra “tutarsız metin veya anlamsız” ı kapsayan sayfaların hızlı bir şekilde kaldırılmasına izin verir.

Ansiklopediye ev sahipliği yapan ancak web sitesi için politikalar oluşturmada eli olmayan Wikimedia Vakfı, AI hakkında gönüllüler topluluğu ile her zaman göze göz atmadı. Haziran ayında, Wikimedia Vakfı durakladı Topluluktan tepki verdikten sonra AI tarafından üretilen özetleri makalelerin üstüne koyan bir deney.

Wikipedia topluluğunda AI hakkında değişen bakış açılarına rağmen, Wikimedia Vakfı, doğru, yüksek kaliteli yazma ile sonuçlandığı sürece kullanmaya karşı değil.

Miller, “Bu çift kenarlı bir kılıç,” diyor. “İnsanların daha yüksek hacimlerde daha düşük kaliteli içerik üretebilmelerine neden oluyor, ancak AI potansiyel olarak gönüllülerin işlerini yapmalarına yardımcı olacak bir araç olabilir ve eğer bunu uygulamak için doğru yolları bulmak için onlarla birlikte çalışabilir.” Örneğin, Wikimedia Vakfı zaten AI kullanıyor Vandalizm içeren makale revizyonlarını belirlemeye yardımcı olmak için ve yakın zamanda yayınlanan AI stratejisi Destekleyici Editörler “tekrarlayan görevleri” ve çeviriyi otomatikleştirmelerine yardımcı olacak AI araçları ile.

Wikimedia Vakfı ayrıca aktif olarak aktif olmayan bir araç geliştiriyor Düzenle denen Bu, yeni katkıda bulunanların politikaları ve yazma yönergeleri ile uyumlu olmalarına yardımcı olmaya yöneliktir. Sonunda, görüşsüz AI tarafından üretilen başvuruların yükünü kolaylaştırmaya yardımcı olabilir. Şu anda düzenleme kontrolü, yazarlara büyük miktarda metin yazmadıysa alıntı eklemelerini hatırlatabilir ve yazarların tarafsız kalmasını sağlamak için tonlarını kontrol edebilir.

Wikimedia Vakfı da üzerinde çalışıyor "Yapıştır Çek" eklemek Bir makaleye büyük bir metin yapıştıran kullanıcılara gerçekten yazıp yazmadıklarını soracak araca. Katkıda bulunanlar birkaç fikir gönderdi Wikimedia Vakfı'nın da araç üzerine inşa edilmesine yardımcı olmak için bir kullanıcı, şüpheli AI yazarlarından bir sohbet botu tarafından ne kadar üretildiğini belirtmelerini öneriyor.

Miller, “Topluluklarımızla ne yaptıkları ve üretken buldukları konusunda takip ediyoruz” diyor. “Şimdilik, düzenleme bağlamında makine öğrenimini kullanma konusundaki odak noktamız, insanların yapıcı düzenlemeler yapmasına yardımcı olmak ve aynı zamanda devriye gezen insanlara yardımcı olmak için doğru olanlara dikkat etmek.”