Yeni Araştırma, Yapay Zeka Etiketlerinin Geri Tepebileceğini, Yanlış Bilginin Daha Güvenilir Görünmesini Sağladığını Bulguladı

Etiketleme Yapay zeka tarafından oluşturulan içerik böylece izleyiciler, makinelerin işin içine girdiğinde çevrimiçi ortamda yapay zekanın oluşturduğu risklere karşı görünüşte basit bir çözüm olarak ortaya çıktığını biliyorlar. Varsayım basittir. Şeffaflık, izleyicilerin tükettikleri içerik hakkında daha eleştirel düşünmelerine yardımcı olur.

Ancak yeni araştırmalar gerçeğin çok daha karmaşık olabileceğini öne sürüyor.

Şaşırtıcı bir şekilde, yeni bir çalışma içeriği şu şekilde etiketlemenin şunu ortaya çıkardı: Yapay zeka tarafından oluşturulan bazen istenilen etkinin tam tersini yaratabilir. Açıklama, insanların yanlış bilgiyi tanımlamasına yardımcı olmak yerine aslında yanlış bilginin algılanan güvenilirliğini artırırken aynı zamanda doğru bilimsel bilgiye duyulan güveni de azaltabilir.

Araştırmada yayımlandı Bilim İletişimi Dergisi, içeriğin yapay zeka tarafından üretildiği söylendiğinde izleyicilerin bilimle ilgili sosyal medya paylaşımlarını nasıl değerlendirdiğini inceledi.

400'den fazla katılımcının yer aldığı bir deneyde araştırmacılar, insanlar internette bilimsel bilgilerle karşılaştığında açıklama etiketlerinin güvenilirlik kararlarını nasıl etkilediğini anlamaya çalıştı.

Beklenmedik sonuçlar, araştırmacıların "doğruluk-yanlışlık geçiş etkisi" olarak tanımladığı, yapay zeka katılımının etiketlenmesinin güvenilirliği beklenmedik şekillerde yeniden dağıttığı bir olguya işaret ediyor.

Araştırmacılar, "Yapay zekanın ifşa edilmesi, doğru bilginin algılanan güvenilirliğini önemli ölçüde azaltırken, yanlış bilginin algılanan güvenilirliğini beklenmedik bir şekilde artırdı" diye yazıyor.

Yapay Zeka Tarafından Üretilen İçeriğin Yükselişi

Araştırma öyle bir zamanda geliyor ki Yapay zeka tarafından oluşturulan metin internette hızla yayılıyor. İkna edici makaleler, sosyal medya paylaşımları ve hatta bilimsel açıklamalar üretebilen araçların geniş çapta erişilebilir hale gelmesi, bu sistemlerin dijital platformları ikna edici yanlış bilgilerle doldurabileceği endişelerini artırdı.

Bu endişelerin gerçek dünyadan bir örneği, devam eden ABD-İran çatışması sırasında sosyal medyada zaten ortaya çıkıyor. Yapay zeka tarafından oluşturulan görsellerin, videoların ve metin gönderilerinin sayısında artış gerçek habercilik ile sentetik propaganda arasındaki çizgiyi bulanıklaştırdı.

Çoğu durumda içerik, doğrulanmadan veya çürütülmeden hızla yayılıyor; bu da üretken yapay zekanın hızlı ilerleyen jeopolitik krizler sırasında kafa karışıklığını nasıl artırabildiğini gösteriyor.

Araştırmacılar yaptıkları çalışmada tanımladılar Bilgi olarak yapay zeka tarafından oluşturulan içerik Ya tamamen yapay zeka tarafından üretiliyor ya da yapay zeka yardımıyla yaratılıyor. Bu tür sistemler yararlı eğitim materyalleri üretebilirken, aynı zamanda okuyuculara inandırıcı görünen hatalar veya halüsinasyonlu gerçekler de üretebilirler.

Araştırmacılar, insanların çevrimiçi bilgilerin doğruluğunu değerlendirmeye çalışırken karşılaştıkları giderek artan zorluğa işaret ederek, "Bu tür içerik, insanların tespit etmekte zorlandığı son derece ikna edici yanlış bilgiler içerebilir" dedi.

Bu riskleri ele almak için hükümetler ve teknoloji platformları giderek daha fazla açıklama gerekliliklerine yöneldi. Avrupa Birliği'nin Yapay Zeka YasasıÖrneğin yapay zeka tarafından oluşturulan içerik kullanıldığında şeffaflığı zorunlu kılar ve bazı ülkeler sentetik medya üzerinde net etiketleme yapılmasını zorunlu kılar.

Bu tür politikaların ardındaki mantık, insanların bilgiyi bilmesi durumunda Yapay zeka tarafından oluşturuldudaha dikkatli inceleyecekler.

Ancak yeni araştırmalar bu varsayımın her zaman geçerli olmayabileceğini öne sürüyor.

Yapay Zeka Açıklamasını Sosyal Medya Ortamında Test Etme

Açıklamanın güvenilirliği nasıl etkilediğini incelemek için araştırmacılar, sosyal medyadaki bilim gönderilerine göz atma deneyimini simüle eden bir deney tasarladılar.

Katılımcılara Çin platformunda yaygın olarak görülen tarzda yazılmış bilimle ilgili bir dizi kısa gönderi gösterildi. Sina WeiboX'e (eski adıyla Twitter) benzer şekilde çalışır. Bazı gönderiler doğru bilimsel bilgiler içerirken, diğerleri kasıtlı olarak yaygın çevrimiçi söylentileri veya sözde bilimsel iddiaları taklit etmek için yazılmıştır.

Daha da önemlisi, gönderiler kullanılarak oluşturuldu GPT-4 ve daha sonra araştırmacılar tarafından incelenerek doğru bilgilerin doğru kaldığından ve yanlış bilgilerin yaygın söylenti kalıplarını yansıttığından emin olundu.

Her gönderi, AI açıklama etiketiyle veya bu etiket olmadan ortaya çıktı. Metnin üzerine belirgin bir şekilde yerleştirilen etikette şunlar yazıyordu: "Dikkat: İçeriğin yapay zeka tarafından oluşturulduğu tespit edildi."

Daha sonra katılımcılardan her gönderinin güvenilirliğini beş puanlık bir ölçekte derecelendirmeleri istendi. Toplamda 433 katılımcı gıda güvenliği, kalp sağlığı ve hastalıkların önlenmesi gibi konuları kapsayan sekiz farklı gönderiyi değerlendirdi.

Sonuçlar, doğru bilginin yapay zeka tarafından oluşturulduğu şeklinde etiketlendiğinde katılımcıların bunun, açıklama etiketi olmadan sunulan aynı bilgilerden daha az güvenilir olduğuna karar verdiklerini ortaya çıkardı.

Aynı zamanda yanlış bilgi olarak etiketlendi Yapay zeka tarafından oluşturulan genellikle etiket olmadan gösterilen aynı yanlış bilgilerden daha güvenilir olarak değerlendirildi. İstatistiksel analiz, açıklama ile bilgi türü arasında güçlü bir etkileşim olduğunu gösterdi ve beklenmedik çapraz geçiş etkisini doğruladı.

Bir Yapay Zeka Etiketi Neden Yanlış Bilgiyi Artırabilir?

Araştırmacılar, etkinin insanların teknolojik ipuçlarını nasıl yorumladıklarından kaynaklanabileceğini öne sürüyor.

Bir olasılık, insanların bilgiyi dikkatli bir analiz veya hızlı bir şekilde işlemesini öneren, iyi bilinen bir ikna teorisi olan Ayrıntılandırma Olasılığı Modeli'nden geliyor. zihinsel kısayollar buluşsal yöntem olarak bilinir.

Bu durumda AI açıklama etiketi bir kısayol işareti görevi görebilir. Daha derin bir incelemeyi teşvik etmek yerine, okuyuculara içeriğin gelişmiş teknolojiyle üretildiği ve dolayısıyla nesnel veya veri odaklı olma ihtimalinin yüksek olduğu sinyalini verebilir.

Başka bir açıklama, araştırmacıların "makine buluşsal yöntemi" olarak adlandırdığı şeyi, yani insanların bilgisayarların ve algoritmaların insanlardan daha nesnel bilgi ürettiğini varsayma eğilimini içerir.

Araştırmaya göre, makine katılımını belirten etiket bu zihinsel kısayolu tetikleyebilir ve insanların yapay zeka tarafından oluşturulan iddiaları, öyle olmasa bile daha gerçekmiş gibi görmelerine yol açabilir.

Bu dinamiğin bir versiyonu X'te görülebilir; burada kullanıcılar sıklıkla platformun yapay zeka sohbet robotu Grok'tan gönderilerin "doğruluğunu kontrol etmesini" ve ardından yanıtlarını yetkili olarak değerlendirmesini ister. Bu güven, 2025 yılında yapılan bir analize rağmen devam ediyor. Dijital Gazetecilik Çekme Merkezi, Grok 3'ün test edilen haber tanımlama sorgularının %94'ünü yanlış yanıtladığını tespit etti.

Bu model, bir yapay zeka etiketinin veya yapay zeka ilişkisinin bazen bir uyarı işareti olmaktan ziyade bir güvenilirlik işareti olarak nasıl işlev görebileceğinin altını çiziyor ve insanları, makine tarafından üretilen yanıtları, gerçekte başka bir şey olabileceği halde, temel gerçek olarak kabul etmeye teşvik ediyor.

Ancak yapay zeka etiketleri meşru bilimsel açıklamalara olan güveni zayıflatabilir. Doğru bilgi çoğu zaman ince ayrıntılar ve bağlamsal açıklama gerektirir. İzleyiciler açıklamayı bir uzmandan ziyade bir makinenin ürettiğine inandıklarında, bilginin güvenilirliğini göz ardı edebilirler.

Yapay Zeka Tarafından Üretilen İçeriğe Yönelik Tutumların Rolü

Çalışma ayrıca yapay zekaya yönelik kişisel tutumların bu güvenilirlik yargılarını nasıl şekillendirdiğini de inceledi.

Beklendiği gibi, zaten yapay zeka hakkında olumsuz görüşlere sahip olan katılımcılar, yapay zeka tarafından oluşturulan içeriğe daha fazla güvenmeme eğilimindeydi. Ancak bu şüpheci kişiler arasında bile yanlış bilginin güvenilirliği tamamen ortadan kalkmadı.

Bu, yapay zekaya duyulan güvensizliğin, insanların makine tarafından üretilen bilgileri doğrudan reddetmesine neden olmadığını gösteriyor. Bunun yerine yapay zekaya yönelik tutumlar, farklı bilgi türlerinin nasıl yorumlandığıyla etkileşime giriyor.

Araştırmacılar bu modeli, insanların gerçeklere dayalı veya veri odaklı görünen iddiaları kabul ederken yapay zeka açıklamalarına güvenmedikleri asimetrik bir "algoritma nefreti" biçimi olarak tanımlıyor.

Bilim İletişimine Etkileri

Bulgular, yapay zeka tarafından üretilen yanlış bilgilerin yayılmasını yönetmeye çalışan gazeteciler, araştırmacılar ve politika yapıcılar için önemli çıkarımlar taşıyor.

İçeriği şu şekilde etiketleme: Yapay zeka tarafından oluşturulan Yapay zeka şeffaflığı ve düzenlemesine ilişkin küresel tartışmalarda merkezi bir strateji haline geldi. Ancak araştırmalar, açıklamanın tek başına izleyicilerin yanlış bilgileri belirlemesine güvenilir bir şekilde yardımcı olmayabileceğini öne sürüyor.

Bunun yerine araştırmacılar, basit etiketlerin, ifşaatın istemeden nesnelliğe işaret ettiği ve yanıltıcı içeriğe olan güveni artırdığı "buluşsal güven tuzağı" olarak tanımladıkları bir durum yaratabileceği konusunda uyarıyorlar.

Olası bir çözüm, yapay zeka etiketlerinin ek uyarılarla eşleştirilmesi olabilir. Araştırmacılar, gelecekteki sistemlerin, okuyucuların daha derinlemesine değerlendirmesini teşvik etmek için açıklamayı açık doğrulama ipuçlarıyla (bilginin bağımsız olarak onaylanmadığına dair bildirimler gibi) birleştirebileceğini öne sürüyor.

Başka bir yaklaşım, yapay zeka tarafından oluşturulan tüm içeriği aynı şekilde ele almak yerine, olgusal doğruluk ile yorumlayıcı açıklama arasında ayrım yapan daha incelikli etiketleme sistemlerini içerebilir.

Araştırma aynı zamanda yapay zeka çağında bilim iletişiminin karşı karşıya olduğu daha geniş bir zorluğun da altını çiziyor.

Geleneksel yanlış bilgilendirme kampanyalarının aksine, yapay zeka tarafından oluşturulan içerik, meşru bilim iletişiminin tonunu ve yapısını taklit eden çok sayıda makul açıklama üretebilir.

İzleyiciler karmaşık bilimsel iddiaları doğrulamak için gerekli uzmanlığa sahip olmadıklarında, güvenilirliği değerlendirmek için genellikle yazarın kimlik bilgileri, kurumsal itibar veya algılanan teknolojik gelişmişlik gibi ipuçlarına güvenirler.

Bu son çalışmadan elde edilen bulgular, yapay zekanın ifşa edilmesinin kendisinin de bu ipuçlarından biri olabileceğini ve bazen izleyicileri yanlış sonuca götürebileceğini gösteriyor.

Üretken yapay zeka çevrimiçi bilgi ortamını yeniden şekillendirmeye devam ettikçe araştırmacılar, izleyicilerin bu sinyalleri nasıl yorumladığını anlamanın çok önemli olacağını savunuyor.

Sonuç olarak, çalışma kışkırtıcı bir soruyu gündeme getiriyor. Yapay zekanın şeffaf olduğu bir çağda, insanlara makinelerin bazen bir şeyler yazdığını söylemek yanlış bilgiyi daha inandırıcı hale getirebilir mi?

Eğer öyleyse, yeni nesil yapay zeka yönetişiminin yalnızca şeffaflığın ötesine geçmesi ve dijital dünyada güvenilirlik sinyallerinin nasıl işlediğini yeniden düşünmesi gerekebilir.

Araştırmacılar şu sonuca varıyor: "Bulgular, yapay zekanın ifşa edilmesinin, buluşsal bir güven tuzağı olarak tanımlanabilecek bir şey yaratabileceğini, bu sayede etiketin bir nesnellik şemasını etkinleştirdiğini, izleyicileri bilgilerin varsayılan olarak gerçeklere dayalı olarak doğru olduğunu varsaymaya yönlendirdiğini ve potansiyel olarak kapsamlı doğrulama olasılığını azalttığını gösteriyor." "Bu, tek bir açıklama etiketinin yetersiz olabileceğini gösteriyor."

Tim McMillan emekli bir kolluk kuvveti yöneticisi, araştırmacı muhabir ve The Debrief'in kurucu ortağıdır. Yazıları genellikle savunma, ulusal güvenlik, İstihbarat Topluluğu ve psikoloji ile ilgili konulara odaklanmaktadır. Tim'i Twitter'da takip edebilirsiniz: @LtTimMcMillan. Tim'e e-posta yoluyla ulaşılabilir: [email protected] veya şifreli e-posta yoluyla: [email protected]