Çevrimiçi ortamda gördüğümüz neredeyse her şeyin kişisel zevklerimize göre filtrelendiği, ayarlandığı ve optimize edildiği bir çağda, karşılaşmadığımız bilgiler de ekranlarımızda görünenler kadar önemli olabilir.
Yeni bir araştırmaya göre aynı algoritmalar Tıklamamızı sağlayacak şekilde tasarlanan bu bilgiler aynı zamanda nasıl öğrendiğimizi, neye inandığımızı ve her ikisi hakkında da ne kadar güvende hissettiğimizi, yanılsak bile sessizce yeniden şekillendirebilir.
Vanderbilt Üniversitesi ve Ohio State Üniversitesi’nden bilişsel bilim adamlarından oluşan bir ekip şunu buldu: algoritmik kişiselleştirme yalnızca insanların karşılaştığı bilgileri daraltmaz. Aynı zamanda keşfetme şekillerini saptırıyor, oluşturdukları zihinsel kategorileri çarpıtıyor ve yanlış kararlar konusunda şaşırtıcı düzeyde aşırı güvene yol açıyor.
Bulgular, dergide yayınlandı Deneysel Psikoloji Dergisi: Genel, politikadan, duygulardan ve gerçek dünya anlambiliminden arındırılmış, basitleştirilmiş bir öğrenme ortamında bile kişiselleştirmenin tek başına insan anlayışını çarpıtmak için yeterli olduğunu gösteriyor.
Araştırmacılar, “Sonuçlarımız, kişiselleştirilmiş ortamlardaki öğrencilerin öğrenme aşamasında özellik bilgilerini daha seçici bir şekilde örneklediğini ve kategoriler hakkında yanlış temsiller geliştirdiğini gösteriyor” diye yazıyor. “Eleştirel olarak, çok az maruz kaldıkları kategoriler için hatalı kararları konusunda abartılı bir güven de rapor ediyorlar.”
Algoritmik Düzenleme, İnsanın Çarpıtılması
Kişiselleştirme artık her yerde mevcut; netflix hedeflenen alışveriş önerilerine ve otomatik haber listelerine kuyruklar ve sosyal medya beslemeleri. Bu sistemler, insanların neyi tıkladığını veya izlediğini analiz ederek ve daha fazlasını sunarak çalışır.
Araştırmacılar, kişiselleştirmenin “kullanıcıların kendileri için en önemli bilgileri almasına yardımcı olmasına rağmen”, aynı zamanda teşhir çeşitliliği çöktüğünde “gerçekliğin ciddi şekilde çarpıtılmış izlenimine yol açabileceğini” belirtiyor.
Bu tür bir çarpıklığın temel biliş düzeyinde nasıl ortaya çıkabileceğini test etmek için araştırmacılar, siyaset veya duygu.
Katılımcılar, haber başlıkları veya videolar yerine, şekil, eğrilik, yön ve parlaklık gibi altı görsel özelliğe göre tanımlanan kurgusal “uzaylı” yaratıkları kategorize etmeyi öğrendiler. Zamanla katılımcılar, hangi uzaylının hangi kategoriye ait olduğunu anlamak için bu özellikleri tek tek tıklatarak ortaya çıkarabildiler.
Bununla birlikte, bazı katılımcılar dengeli bir dizi uzaylı görürken, diğerleri YouTube’un modeline göre modellenen bir öneri algoritması tarafından oluşturulan kişiselleştirilmiş bir diziyle karşılaştı.
Algoritma, tıpkı gerçek dünyadaki platformlarda olduğu gibi, her katılımcının hangi özellikleri örnekleme eğiliminde olduğunu öğrendi ve ardından “katılımlarını” veya daha fazla özelliğe tıklama olasılığını en üst düzeye çıkaracak daha fazla öğe sundu. Zamanla algoritma, katılımcıları uzaylı dünyasının daha dar dilimlerine yönlendirdi.
İşte işler burada kırılmaya başladı.
Kişiselleştirme Algoritmaları Shrink Araştırması
Kişiselleştirilmiş koşullardaki katılımcılar giderek daha az özelliği örneklediler ve uzaylı kategorilerinin daha dar bir alt kümesini keşfettiler.
Araştırmacılar, “Kişiselleştirilmiş ortamlardaki öğrenciler, bilgileri kontrol ortamlarındaki öğrencilere göre daha seçici bir şekilde örneklediler” diye yazıyor. Sonuç, kategori öğrenme dizilerinin kişiselleştirilmesinin, öğrencilere, öğrenenlerin erişiminin miktarını ve çeşitliliğini sınırlama konusunda rehberlik edebileceğini gösteriyor.”
Buna karşılık, algoritmik etki olmadan ne üzerinde çalışacaklarını özgürce seçmelerine izin verilen katılımcılar, altı özelliğin tamamında daha geniş ve eşit bir şekilde örnekleme yapma eğilimindeydi.
Etkisi ince ama güçlüydü. Katılımcılar daha az kategoriye ve daha az boyuta maruz kaldıkları için yabancı dünyanın çarpık iç modellerini oluşturmaya başladılar.
Tek bir türe rastlayan ve daha sonra algoritmik olarak orada sıkışıp kalan bir film izleyicisi gibi, katılımcılar da sistemin onlara göstermeye devam ettiği şeyler hakkında daha fazlasını, göstermediği şeyler hakkında ise çok daha az şey öğrendiler.
Çarpık Kategoriler, Emin Hatalar
Katılımcıların yeni uzaylıları kategorilere ayırma yetenekleri test edildiğinde ve her seçime olan güvenlerini derecelendirmeleri istendiğinde, öğrenme aşamasından sonra işler daha da ilginç hale geldi.
Kişiselleştirilmiş koşullardaki katılımcılara daha önce hiç görmedikleri kategorilerden uzaylılar gösterildiğinde bile, nadiren “yeni kategori” yanıtını seçtiler. Bunun yerine, tanıdık olmayan uzaylıları güvenle ve yanlış bir şekilde gördükleri kategorilere eşleştirdiler.
Araştırmacılar, “Sınırlı sayıda kategori alt kümesini öğrenen katılımcıların, tanıdık olmayan öğeleri kategorilere ayırmaya çalıştıklarında kendilerine aşırı güvenmeleri muhtemeldir” diye yazıyor.
Aslına bakılırsa, katılımcılar genellikle bir sorunla karşılaştıklarında kendilerini daha güvende hissettiler. uzaylılar daha önce hiç görmedikleri kategorilerden – çarpıcı bir üstbilişsel başarısızlık.
Çalışma, bir test maddesi tamamen yabancı bir kategoriden geldiğinde katılımcıların güveninin, doğruluk oranları keskin bir şekilde düşse bile arttığını bildiriyor. Başka bir deyişle, bunu haklı çıkaracak en az kanıta sahip olduklarında en emin oldular.
Bu bulgular kişiselleştirmenin sadece maruz kalmamızı daraltmadığını gösteriyor. Eksik ve önyargılı bilgimizin olduğundan daha geniş bir alana uygulandığına inanmamızı sağlayabilir.
Araştırmacılar, “Kişinin sınırlı ve önyargılı kategorik bilgisinin geniş çapta uygulanması, toplumumuz için sorunlu olabilir çünkü bu, basmakalıp düşünceye ve kavramsal önyargılara yol açabilir” diye uyarıyor.
Düşüncenin Kendisi İçin Bir Filtre Balonu
Daha da önemlisi, bu çarpıklık duygu yüklü konuların yokluğunda bile ortaya çıktı. politik içerik veya önceden var olan inançlar. Uzaylılar sentetikti. Katılımcıların önceden hiçbir ilişkisi yoktu veya önyargılar. Tek fark, dengeli bir dünya mı yoksa algoritmik olarak düzenlenmiş bir dünya mı gördükleriydi.
Bu da sonuçları özellikle endişe verici hale getiriyor. Eğer kişiselleştirme tek başına insan kategorisi oluşumunu bozabilir ve tarafsız bir yapay alanda bile yanlış cevaplara olan güveni artırabilirse, bunun gerçek dünya ortamlarındaki etkileri sosyal, politikve kültürel anlam çok daha dramatik olabilir.
Araştırmacılar, “Kişiselleştirme algoritması ile onunla etkileşime giren öğrenciler arasındaki ilişki tek yönlü değil, etkileşimlidir ve bu kişiselleştirme, kişinin inanç sistemindeki başlangıçtaki önyargıların gelişmesine katkıda bulunabilir” diyor.
Başka bir deyişle algoritmalar insanı şekillendiriyor öğrenmeve insan davranışı, hem keşfi sınırlayan hem de yanlış algılamayı büyüten bir döngüye kilitleyerek algoritmayı şekillendirir.
Çalışma bulguları, sistemlerin optimize edildiği artan bir endişeye değiniyor nişanlanmak-anlamamak- siyasi kutuplaşmadan, operasyonel karar alma sürecine ve ulusal güvenliğe kadar her şeyi etkileyebilir.
Askeri analistler giderek daha fazla algoritmik filtreleme araçlarına güveniyor. İstihbarat sistemleri, çıkarılan kullanıcı ihtiyaçlarına göre verilere öncelik verir. Bilimsel literatür önerileri bile kişiselleştirilmiştir. Yeni çalışma, dikkatli bir şekilde yönetilmedikçe bu tür sistemlerin zihinsel arama alanını daraltabileceğini ve sahte güvenin yerleşebileceğini öne sürüyor.
Havacılık ve uzay mühendisliğinden savaş alanı istihbaratına kadar, hatalı kesinlik, dürüst belirsizlikten çok daha tehlikeli olabilir.
Sonuçta kişiselleştirme doğası gereği zararlı değildir. İnsanların aşırı bilgi yüklemesinden kurtulmasına yardımcı olabilir. Ancak bu yeni çalışma, algoritmaların biz farkına varmadan gördüklerimizi kısıtladığında aynı zamanda düşünme şeklimizi de kısıtlayabileceğini öne sürüyor.
Üstelik giderek algoritmaların şekillendirdiği bir dünyada bu sistemlerin bizi nasıl şekillendirdiğini anlamak toplumların karşılaşacağı en önemli zorluklardan biri olabilir.
“Gerçekten dünyayı öğrenmeye çalışan küçük bir çocuğunuz varsa ve kullanıcıların daha fazla içerik tüketmesine öncelik veren çevrimiçi algoritmalarla etkileşime giriyorsa ne olacak?” Ohio Eyaleti’nde ortak yazar ve psikoloji profesörü olan Dr. Brandon Turner, bir konuşmasında şunları söyledi: ifade. “Benzer içerikleri tüketmek çoğu zaman öğrenmeyle uyumlu değildir. Bu, kullanıcılar ve nihayetinde toplum için sorunlara neden olabilir.”
Tim McMillan emekli bir kolluk kuvveti yöneticisi, araştırmacı muhabir ve The Debrief’in kurucu ortağıdır. Yazıları genellikle savunma, ulusal güvenlik, İstihbarat Topluluğu ve psikoloji ile ilgili konulara odaklanmaktadır. Tim’i Twitter’da takip edebilirsiniz: @LtTimMcMillan. Tim’e e-posta yoluyla ulaşılabilir: [email protected] veya şifreli e-posta yoluyla: [email protected]
