Teknolojinin önde gelen bir uzmanına göre, büyükşehir polisinin canlı yüz tanıma kullanımlarının önyargısız olduğuna dair iddialarının önyargısız olduğunu belirtti.
Met, LFR’nin en büyük ve en yüksek profilli kullanımını planlıyor, ancak bu banka tatil hafta sonu Notting Hill Karnavalı Batı Londra’da.
Guardian, Karnaval’a yaklaşımlarda iki bölgede konuşlandırılacağını anlıyor, güç, kullanımında ısrar ediyor Eşitlik ve İnsan Hakları Komisyonu Polisin LFR kullanımını yasadışı olduğunu söyleyen.
Yeni iddialar Prof’den geliyor Pete Fusseypolisin yüz tanıma kullanımının tek bağımsız akademik incelemesine öncülük eden 2018-19 yılları arasında Met için eski bir LFR gözden geçirenve şu anda İngiltere’de ve yurtdışındaki diğer güçlere kullanımı hakkında tavsiyelerde bulunuyor.
Met, sonra LFR kullanımını yeniden düzenlediğini söylüyor Ulusal Fiziksel Laboratuardan (NPL) görevlendirilen 2023 yılında yapılan bir çalışma Ve şimdi aslında önyargısız. Ancak Fussey şunları söyledi: “Met’in NPL raporundan önyargı bulunmaması hakkında yaptığı iddialar, bu rapordaki gerçekler tarafından doğrulanmıyor.”
LFR’nin çalışması için sistemin hassasiyeti değiştirilebilir. Ne kadar hassas olursa o kadar çok insan tespit eder, ancak potansiyel önyargısı ırksal, cinsiyet ve yaş gerekçesiyle o kadar yüksek olacaktır. Sıfır en hassas ayarı ve en az hassas olanıdır.
NPL raporu, 0.56’lık bir ortamda önyargı olduğunu buldu. 0.6 bir ortamda, testindeki insanların yanlış bir şekilde işaretlendiği yedi vaka buldu – yanlış bir pozitif. Hepsi etnik azınlıklardan geliyordu.
Sisteme 178.000 görüntü girildikten sonra çalışma sonuçları elde edildi. Dört yüz gönüllü, her biri yaklaşık 10 kez kameradan geçti ve sistemin onları doğru bir şekilde tanıması için 4.000 şans verdi. Çalışmanın tahmin ettikleri, dört alanda 130.000’den fazla insanın kalabalıklarıdır. Londra ve biri Cardiff’te. Testler güneşli koşullarda gerçekleşti ve Fussey’in LFR’yi değerlendiren diğer ülkelerden daha kısa olduğunu söylediği 34,5 saat.
Bu örnekten rapor, 0.6 veya daha yüksek bir ortamda istatistiksel olarak anlamlı bir önyargı olmadığı sonucuna varmıştır, Met’in LFR’nin kullanımını ve genişlemesini savunmak için tekrarladığı bir iddia.
Fussey, bunun Met’in iddialarını destekleyecek çok küçük bir örnek olduğunu söyledi. “Milletvekilleri (Metropolitan Polis Hizmet) sürekli olarak sistemlerinin önyargı açısından bağımsız olarak test edildiğini iddia edin. Bu araştırmanın incelenmesi, verilerin yapılan iddiaları desteklemek için yetersiz olduğunu ortaya koymaktadır.
“Met’in açıkça belirttiği belirleyici sonuçlar, sadece yedi yanlış eşleşmenin analizine dayanıyor. Bu, milyonlarca Londralı yüzünü analiz eden bir sistemden.
Met şimdi LFR’yi 0.64’lük bir duyarlılık ayarında kullanıyor, burada NPL çalışması yanlış eşleşme üretmediğini söyledi.
Fussey şunları söyledi: “Kendi araştırmalarına göre, sahte maçlar aslında 0.64 veya daha yüksek olan önyargısız olduğunu iddia ettikleri ayarlarda değerlendirilmedi.
“Bilim topluluğunda çok az sayıda, kanıtların bu kadar küçük bir örnekten çıkarılan bu iddiaları desteklemek için yeterli olduğunu söylerdi.”
Fussey ekledi: “Değerlendirme, algoritmada önyargının var olduğunu açıkça belirtiyor, ancak sistem ayarlarının değiştirilmesi durumunda bunun ortadan kaldırıldığını iddia ediyor. Buradaki sorun, sistemin bu farklı ortamlarda yeterince test edilmemesi, bu nedenle bu iddiaları desteklemek zor.”
Met’in istihbarat direktörü Lindsey Chiswick, Fussey’in iddialarını reddetti. “Bu, dünyaca ünlü bir organizasyonun gerçek bir raporudur. Met polisinin yorumu bağımsız raporun bulduklarına dayanmaktadır” dedi.
Bülten Promosyonundan Sonra
“LFR’yi 0.64 ayarında kullandığımızda – şu anda kullandığımız şey – istatistiksel olarak anlamlı bir önyargı yok.
“Çalışmayı, potansiyel önyargının algoritmada nerede olabileceğini anlamak ve bulguları bu riski azaltmak için kullandık.
“Bulguları bize önyargıyı önlemek için algoritmayı hangi seviyede kullanacağını gösteriyor ve her zaman bu seviyenin üstünde ve adil bir şekilde çalışıyoruz.”
Notting Hill’de bu hafta sonu uyarı işaretleri, insanlara LFR’nin kullanımda olduğunu söyleyecek, aranan şüphelilerin bir veritabanına bağlı kameraların yanında minibüslerin yanında.
Polis, Karnaval’a yaklaşımlardaki iki alanda kullanımının caydırıcı olacağına inanıyor. Karnavalın kendisinde polis, şüphelileri şiddet ve saldırılar için yakalamak için retrospektif yüz tanıma kullanmaya hazırlanıyor.
Fussey şunları söyledi: “Çok az kişi polisin halkı güvende tutmak için teknolojiyi kullanma hakkından şüphe duyacaktı, ancak bunun uygun hesap verebilirlik önlemleri ve insan hakları standartlarına uygun olarak yapılması gerekiyor.”
MET, 2024’ten bu yana LFR’nin yanlış pozitif oranının her 33.000 vakada bir tane olduğunu iddia ediyor. Kaç yüzün tarandığını söylemeyi reddetti, ancak yüz binlerce kişide olduğu anlaşılıyor.
2024’te 26 sahte maç vardı, şimdiye kadar 2025’te sekiz kişi vardı. Met, bu insanların hiçbirinin gözaltına alınmadığını söylüyor, çünkü bilgisayar sistemi bir maçı işaretlediğinde, tutuklama kararı bir polis memuru tarafından verilip verilmeyeceğine dair karar.
Karnavaldan önce Met, 100 kişiyi tutukladı, 21’i hapis cezasına çarptırıldı ve 266’sının katılması yasaklandı. Kuvvet ayrıca 11 ateşli silah ve 40’tan fazla bıçak ele geçirdiğini söyledi.
