Google'ın AI Bounty Programı Bug Avcılarına 30 bin dolara kadar öder

Pazartesi günü Google yeni bir ödül programı Özellikle AI ürünlerinde hata bulmaya adanmıştır. Google'ın listesi Nitelikli Hatalar Google Home'un bir kapının kilidini açmasına neden olan bir AI istemini dolaylı olarak enjekte etmek gibi aradığı haydut eylemlerin örneklerini veya birisinin tüm e -postalarını özetleyen ve özeti saldırganın kendi hesabına gönderen bir veri pessfiltrasyon istemi enjeksiyonu gibi örnekleri içerir.

Yeni program, bir AI hatasını neyin oluşturduğunu netleştirir, bunları listenin üst kısmındaki haydut eylemlerle zarar vermek veya bir güvenlik boşluğundan yararlanmak için büyük bir dil modeli veya üretken bir AI sistemi kullanan sorunlar olarak parçalıyor. Bu, güvenliğini engellemek veya istenmeyen bir şey yapmak için birinin hesabını veya verilerini değiştirmeyi içerir Daha önce maruz kalan bir kusur Zehirli bir Google takvim etkinliği kullanarak akıllı panjurları açabilir ve ışıkları kapatabilir.

Sadece İkizler'i halüsinasyona almak onu kesmez. Şirket diyor Bu sorunlar İçerik ile ilgili AI ürünleri tarafından üretilen-nefret söylemi veya telif hakkı ihlal eden içerik oluşturmak gibi-ürünün kendisi içindeki geri bildirim kanalına rapor edilmelidir. Google'a göre, bu şekilde AI güvenlik ekipleri “modelin davranışını teşhis edebilir ve gerekli uzun vadeli, model çapında güvenlik eğitimini uygulayabilir”.

Yeni AI Ödül Programı ile birlikte Google, Pazartesi günü de açıkladı. CODEMENDENDER. Şirket, bir insan araştırmacının veterinerinden sonra “açık kaynak projelerine 72 güvenlik düzeltmesi” yapmayı kullandığını söyledi.

20.000 dolarlık ödül, Google'ın “Amiral Gemisi” ürünleri araması, İkizler Uygulamaları ve Gmail ve Drive gibi temel çalışma alanı uygulamalarında haydut eylemler için verildi. Rapor kalitesi için çarpanlar ve Yenilik Bonusu ayrıca toplam tutarı 30.000 dolara kadar getirebilir. Fiyat, Google'ın Jules veya NotebeLM gibi diğer ürünlerinde bulunan hatalar ve gizli model parametrelerini çalmak gibi daha düşük katmanlı suistimaller için düşüyor.