Yapay zeka girişimi Anthropic’teki bir araştırmacı ekibi, ilk örneği olduğunu iddia ettikleri şeyi ortaya çıkardı. yapay zeka büyük ölçüde özerk bir yönetimi yönetmek için kullanılır saldırı Teknoloji şirketlerinden devlet kurumlarına kadar 30 hedeften oluşan bir grup üzerinde.
Şirket bildirdi Eylül ayında büyük bir siber kesintiye uğradı casusluk Operasyon Çin devleti destekli bir grup bilgisayar korsanıyla bağlantılıydı. Ayrıntılı bir raporda Anthropic, saldırganların operasyonun tahmini yüzde 80 ila 90’ını otomatikleştirmek için yapay zeka ajanı Claude Code’u kullandığını söylüyor.
Doğrulanması durumunda olay, yapay zeka destekli bilgisayar korsanlarının erişimini ve etkisini önemli ölçüde artırabilecek rahatsız edici bir gelişmeye işaret edecek.
Raporda, grubun Claude Code çevresinde, modelin mevcut bilgisayar korsanlığı araçlarını insan yönlendirmesini beklemeden hızlı bir şekilde çalıştırmasına olanak tanıyan özel bir çerçeve oluşturduğu belirtiliyor. Bu kurulum, yapay zekanın hedef ağları taramasına, dahili sistemleri haritalamasına, zayıf noktaları aramasına, şifreleri test etmesine ve erişim elde ettikten sonra verileri çıkarmasına olanak tanıdı.
Anthropic, operasyonun yalnızca az sayıda vakada başarılı olmasına rağmen, modelin birden fazla gün boyunca tek seferde bir ila altı saat boyunca minimum insan müdahalesiyle otonom olarak çalıştığını bildirdi.
Ancak Anthropic, vakaların çoğunda modelin operasyon sırasında tekrarlanan hatalar yaptığını belirtiyor; bunlara veri uydurmak, işe yaramayan kimlik bilgileri elde ettiğini iddia etmek veya daha sonra kamuya açık bilgiler olduğu kanıtlanan “kritik keşifleri” belirlemek de dahil.
Buna rağmen Anthropic, olayın “geleneksel AI yardım modellerinden temel bir sapmayı” temsil ettiğini söylüyor ancak dışarıdan uzmanlar, şirketin sistemin gerçekte ne kadar bağımsız olduğunu destekleyecek yeterli kanıtı henüz sağlamadığını savunuyor. Rapor, Anthropic’in rakamlarının doğrulanmasına olanak sağlayacak teknik kaydı yayınlama konusunda yetersiz kalıyor.
Belgede hedef alındığı söylenen 30 örgütün ismi de yer almıyor. Ek olarak, operasyona ilişkin tam bir bilgi, araç kaydı veya transkript bulunmuyor ve şirketin saldırıyı nasıl tespit ettiği ya da Çin devleti destekli bir grup olarak bilgisayar korsanlarını “yüksek güvenle” nasıl ilişkilendirdiği açıklanmıyor.
Çin Dışişleri Bakanlığı sözcüsü suçlamaları reddederek Çin’in hacklemeye karşı olduğunu belirterek iddiaları “delil olmadan yapılan suçlama” olarak nitelendirdi.
Anthropic’in redakte edilmiş bir vaka çalışmasını yayınlama kararı muhtemelen güvenlik ve stratejik kaygıların bir karışımıdır. Ayrıntılı günlükler ve mağdur kimlikleri taklitçilere yardımcı olabilir ve kolluk kuvvetlerini karmaşık hale getirebilir. Ne olursa olsun, özetlenmiş rapor, gelecekteki açık kaynaklı yapay zeka modellerinin üretimini düzenleme olasılığı da dahil olmak üzere, gelişmiş modellerin ne kadar sıkı yönetilmesi gerektiğine ilişkin gelecekteki politika tartışmalarında Anthropic’i hala güçlü yapay zekanın “sorumlu” üreticisi olarak konumlandırıyor.
Vaka çalışması halihazırda yapay zeka şirketlerinin modelin kötüye kullanımını nasıl rapor etmesi gerektiği konusundaki tartışmayı şekillendiriyor. Bu, çoğunlukla otonom yapay zeka saldırısı olarak bildirilen ilk saldırı olsa da, Anthropic’in açıklaması daha geniş bir saldırı modelinin parçası.
Microsoft ve OpenAI gibi şirketler de geçmişte yapay zeka araçlarının saldırı ve gözetim çabalarında hedef alındığını bildirmişti. Microsoft’un en son dijital tehditler raporunda Çin, Rusya, İran ve Kuzey Kore’nin “siber saldırıları organize etmek ve insanları çevrimiçi ortamda etkilemek için yapay zeka kullanımını önemli ölçüde artırdığı” belirtiliyor.
Artan tehditlere rağmen uzmanlar, yapay zeka destekli hacklemenin hackleme türlerini değiştirmeyeceğini ve dil modellerinin yenilerini icat etmek yerine sadece bilinen görevleri otomatikleştirdiğini savunuyor. Anthropic’in araştırması da benzer bir sonuca ulaştı ancak “karmaşık siber saldırıların gerçekleştirilmesinin önündeki engellerin önemli ölçüde azaldığı” ve “tehdit aktörlerinin artık ajansal yapay zeka sistemlerini, doğru şekilde kurulduklarında deneyimli bilgisayar korsanlarından oluşan tüm ekiplerin işini yapmak için kullanabileceği” konusunda uyardı.
Anthropic, Claude’u saldırganlar için çekici kılan özelliklerin aynı zamanda onu “siber savunma açısından da hayati hale getirdiğini” vurguluyor ve kendi tehdit ekibinin vaka tarafından üretilen büyük miktarda veriyi incelemek için modele güvendiğini söylüyor.
Yapay zekanın uyguladığı özerklik düzeyine dair kanıt eksik olsa da, bazıları şirketin iddialarını sorgulamak içinAnthropic’in raporu, siber saldırıların hızını ve ölçeğini artırmak için ticari modellerin nasıl kullanıldığına dair bir fikir veriyor. Eylül ayında şirket, teknolojisinin resmi olarak yasaklandığı bölgelerde erişimi sıkılaştırmak için hizmet şartlarını da güncelledi ve bunun tek açık örneği olarak Çin’i gösterdi.
Marie Nicola bir gazeteci, popüler kültür tarihçisi ve araştırmacı araştırmaları kültür, teknoloji ve tarihin kesişimini araştıran eski CBC Kıdemli Yapımcısıdır. Globe and Mail’e katkıda bulundu, Reddit ile işbirliği yaptı ve TrendHunter’da yayın ve dijital yayıncılık alanında ilk yenilikçilerden biri olarak yer aldı. Onu X’te takip et @karmacakedotca.
Source link
