ABD Savunma İleri Araştırma Projeleri Ajansı (DARPA) tarafından finanse edilen yeni bir yapay zeka aracı, şaşırtıcı yeni bir dijital teknoloji biçimi sunabilir. kamuflaj yüz tanıma sistemleri tarafından giderek daha fazla izlenen bir dünyada.
DARPA’nın desteklediği Aldatmaya Karşı Yapay Zeka Sağlamlığının Garanti Edilmesi (GARD) programına göre bu teknik, bir fotoğraftaki kişinin yüzünü ustalıkla değiştirmek için son teknoloji ürünü üretken yapay zekayı kullanıyor; bariz bir maske ya da çarpıklık yaratmak için değil, ikna edici derecede gerçek görünen ve onu tanımlamaya yönelik sistemleri şaşırtan yeni bir görüntü üretmek için.
Mayıs 2026 sayısında kabul edilen hakemli bir makalede Desen TanımaJohns Hopkins Üniversitesi, Hong Kong Şehir Üniversitesi ve Advanced Micro Devices’tan araştırmacılardan oluşan bir ekip, difüzyon tabanlı üretken modelleri kullanan “DiffProtect” adlı yeni bir aracı tanıttı; bu aracın arkasında yatan teknoloji aynı. Yapay zeka görüntüsü jeneratörler—bir fotoğraftaki kişinin yüzünü ustaca değiştirmek için.
Sonuç, insan gözlemcilere hala orijinal kişi gibi görünen, ancak en son teknolojiye sahip yüz tanıma sistemlerini bile başarılı bir şekilde kandıran, oldukça gerçekçi bir görüntüdür. Bazı durumlarda araç, önde gelen alternatiflerle karşılaştırıldığında saldırı başarı oranlarını yüzde 24’ten fazla artırıyor.
Araştırmacılar, gürültülü, aksaklıklarla dolu veya açıkça ortaya çıkan önceki rakip tekniklerden farklı olarak manipüle edilmiş fotoğraflarDiffProtect tamamen doğal görünen görüntüler üretiyor; aslında o kadar doğal ki, bir kullanıcı araştırmasındaki insan deneklerin çoğunluğu, bunları rakip gizlilik araçlarının çıktılarına göre tercih ediyor.
Yöntem aynı zamanda ticari yüz tanıma API’lerine karşı da başarılı oldu ve ona gerçek dünyayla uygunluk kazandırdı.
Araştırmacılar, “Kapsamlı deneyler, DiffProtect’in yüksek görsel kalitede korumalı yüz görüntüleri ürettiğini ve aynı zamanda önceki en iyi yöntemlere göre çok daha yüksek ASR’lere ulaştığını gösteriyor” diye yazıyor.
DiffProtect gibi teknolojilerin ortaya çıkışı, yüz tanıma uçağa binmekten telefonun kilidini açmaya ve çevrimiçi olarak yüklenen fotoğrafları etiketlemeye kadar günlük yaşamın birçok alanına sessizce dahil oldu.
Milyarlarca insan halihazırda yüzlerini sosyal platformlara yükledi; bunların çoğu, şirketlerin ve hükümetlerin güvendiği veri kümelerini beslediklerinin farkında değil.
DiffProtect’in arkasındaki fikir suçluların kaçmasına yardım etmek değil kanun yaptırımıAraştırmacılar bunun amacının sıradan kullanıcılara görüntülerinin nasıl kullanılacağı üzerinde çok az kontrole sahip oldukları alanlarda kendilerini korumaları için bir yol vermek olduğunu vurguluyor.
DiffProtect’in yenilikçiliğinin temelinde difüzyon otomatik kodlayıcılarının kullanılması yer alır. üretken yapay zeka Bir görüntüyü ilk olarak “anlamsal” kimlik temsiline ve gürültü bileşenine ayıran mimari.
Sistem, gürültü eklemek veya bir yüze karşıt yamalar yapıştırmak yerine, görüntüyü iki bileşene kodlar: kimlik özelliklerini yakalayan yüksek seviyeli anlamsal kod ve ince ayrıntıları temsil eden stokastik gürültü kodu.
Buradan itibaren model, yeniden oluşturma sırasında yüz tanıma sistemlerini karıştıracak kadar semantik kodu yinelemeli olarak ayarlarken, son görüntüyü orijinal fotoğrafla görsel olarak tutarlı tutuyor.
Bu “manifold üzeri” yaklaşım – üretme fikri düşman görselleri gerçek fotoğrafların çeşitliliğinde kalan bu özellik, önceki gizlilik araçlarında uzun süredir devam eden bir gerilimi ele alıyor.
Geleneksel saldırılar, ya kullanıcıların asla isteyerek çevrimiçi olarak yayınlayamayacağı bariz çarpıtmalar gerektirir ya da insanların tespit edemediği ancak modellerin giderek daha fazla tespit edebildiği ince bozulmalar üretir.
DiffProtect, yapay zeka sistemleri için anlamlı ancak insan gözüyle neredeyse görünmez olan değişiklikler üretmek için bir difüzyon otomatik kodlayıcı kullanarak bir denge kurmaya çalışır. Araştırmada gösterildiği gibi, düzenlemeler genellikle yüz ifadesinde, göz şeklinde veya ışıkta küçük değişikliklere yol açıyor.
Araştırmacılar ayrıca kimliğin kaynaktan çok uzağa kaymasını önlemek için algoritmaya bir “yüz anlambilimi düzenlemesi” yerleştirdiler. Bu, korunan görüntünün hala aynı kişi gibi görünmesini sağlar.
DiffProtect’in çıktılarını diğer yöntemlerle oluşturulanlarla karşılaştıran kullanıcı araştırmalarında katılımcılar, halka açık olarak en çok hangisini paylaşacakları sorulduğunda %80 oranında DiffProtect görüntülerini tercih ettiler.
Ancak asıl test, günümüzün yapay zeka tabanlı olup olmadığıdır. yüz dedektörleri aldatmacaya kanmak. CelebA-HQ ve FFHQ gibi iyi bilinen yüz veri kümeleri üzerinde yapılan zorlu testlerde DiffProtect yöntemi, hem ticari hem de akademik ortamlarda kullanılan popüler modeller de dahil olmak üzere birçok modern tanıma mimarisinde rakip yaklaşımları sürekli olarak geride bıraktı.
Rekabetçi başarısı, JPEG sıkıştırma, özellik sıkıştırma ve difüzyon bazlı saflaştırma modeli gibi ortak savunmalarla birleştirildiğinde bile devam etti ve önceki yöntemlerin eksik olduğu esnekliği gösterdi.
DiffProtect ayrıca Face++ ve Aliyun gibi hizmetler de dahil olmak üzere ticari yüz tanıma API’lerine karşı başarılı oldu ve ona laboratuvarın ötesinde gerçek dünyada güvenilirlik kazandırdı. DiffProtect, bu kara kutu sistemlerinin güvenle yanlış tanımladığı görüntüler oluşturarak, konuşlandırılmış tanıma işlem hatlarının bile akıllıca oluşturulmuş rakip girdilere karşı savunmasız olduğunu gösterir.
Ancak tüm güçlü yönlerine rağmen DiffProtect henüz bitmiş bir çözüm değil. Araştırmacılar, aracın şu anda prototip aşamasında olduğunu, gizlilik ve güvenliğin sınırlarını keşfetmek için tasarlandığını ve genel kullanıma hazır bir tüketici ürünü olmadığını vurguluyor.
Dağıtım modelleri aynı zamanda hesaplama açısından yoğun olmaya devam ediyor, çalıştırılması için özel donanım ve uzmanlık gerektiriyor ve günlük uygulamalarda anında devreye alma pratikliğini sınırlıyor.
Ek olarak araştırmacılar, rakip yöntemlerin uzun vadeli etkililiğinin, özellikle savunma stratejileri geliştikçe yüz tanıma teknolojisinin nasıl geliştiğine bağlı olduğunu kabul ediyor.
Yine de DiffProtect gibi bir aracın varlığı, üretken yapay zekanın iki uçlu doğasını vurguluyor. DiffProtect, başlangıçta yaratıcı görüntü sentezi için tasarlanan teknolojiden yararlanarak ikili kullanımın nasıl olduğunu gösteriyor üretken yapay zeka haline geldi. Çevrimiçi sanat araçlarını destekleyen algoritmalar aynı zamanda büyük ölçekli biyometrik sistemleri de bozabilir.
Bu ikilik kendi etik sorularını gündeme getiriyor. Ancak bu aynı zamanda bireylerin dijital benzerliklerinin nasıl kullanıldığı üzerinde kısmi de olsa daha fazla kontrole sahip olabileceği bir geleceğe de işaret ediyor.
DARPA’lar GARD programıİlk olarak 2019’da piyasaya sürülen yapay zeka sistemleri ve aldatıcı girdiler arasındaki bu tür düşmanca etkileşimleri tam olarak araştırmak için tasarlandı.
Girişim, makine öğrenimi modellerinin çok çeşitli saldırılara karşı nasıl dayanıklı olabileceğine dair temel bir anlayış oluşturmayı ve araştırmacıların hem saldırı hem de savunma tekniklerini test etmesine ve değerlendirmesine yardımcı olacak araçları ve kıyaslamaları geliştirmeyi amaçlıyor.
DiffProtect, mahremiyet savunucuları için bir tür teknolojik dengeleme sunuyor: otomatik gözlemcilerle dolu bir ortamda bireylerin biyometrik verileri üzerindeki kontrolünü koruyabilecekleri bir araç.
İçin güvenlik uzmanlarıBu durum, rakip tekniklerin ne kadar ileri gidebileceği ve yapay zeka sistemlerini bunlara karşı güçlendirmek için nelerin gerekebileceği konusunda yeni soruları gündeme getiriyor.
DiffProtect şimdilik gizlilik ortamındaki potansiyel değişime dair bir bakış sunuyor; üretken yapay zekanın sadece yüzlerimizi analiz eden bir araç değil, aynı zamanda onları koruyan bir araç olduğu bir yer.
Araştırmacılar şu sonuca varıyor: “Kullanıcı araştırması, DiffProtect’in taban çizgilerine göre açık bir şekilde tercih edildiğini gösteriyor ve bu da onun mükemmel pratik kullanılabilirliğini vurguluyor.” “DiffProtect’in düşman saldırıları ve savunmaları için yayılma modellerinin kullanılmasına ilişkin gelecekteki çalışmalara ilham verebileceğine inanıyoruz.”
Tim McMillan emekli bir kolluk kuvveti yöneticisi, araştırmacı muhabir ve The Debrief’in kurucu ortağıdır. Yazıları genellikle savunma, ulusal güvenlik, İstihbarat Topluluğu ve psikoloji ile ilgili konulara odaklanmaktadır. Tim’i Twitter’da takip edebilirsiniz: @LtTimMcMillan. Tim’e e-posta yoluyla ulaşılabilir: [email protected] veya şifreli e-posta yoluyla: [email protected]
