Google Alarm Verdi! Gemini'ın Ucuz Kopyasını Oluşturmak İstediler

Google, son yaptığı açıklamada açıklamada yapay zeka alanında yaşanan kritik soruna değindi. Teknoloji devi tarafından aktarılan bilgilere göre yakın zamanda şirketin kendi sohbet botuna çok sayıda istek gönderildi ancak bunların arkasında kötü amaçlı bir girişim bulunuyordu. Bu girişimle birlikte Gemini kapasitesinde yapay zeka modelleri geliştirmenin hedeflendiği ortaya çıktı. Yapay Zeka Modeli Geliştirmek İçin Gemini Kullanıldı Sıfırdan bir yapay zeka modeli eğitmenin çok ciddi bir maliyeti bulunuyor. Hem yasal hem etik açıdan sorunlu olduğu için her bilginin veya eserin doğrudan kullanılamaması, model geliştirme sürecini oldukça uzun ve zahmetli kılıyor. Bunun farkında olan bazı kişiler ise her ne kadar etik olmasa da kendi yapay zeka modellerini başka modellerle eğitmeye çalışabiliyor. Google'ın son paylaştığı rapora bakacak olursak bu olayı yaşayan şirketler arasında kendisi de yer aldı. "Kestirme" yola başvurmak isteyen bazı kişiler, yapay zeka modelini klonlamak için Gemini'a 100 binden fazla metin istemi gönderdi. Yani siz nasıl ki bir sohbet botunu açıp "Merhaba, Google hakkında bilgi verir misin?" veya "Nasılsın?" gibi sorular soruyorsanız bu girişimin arkasındaki kişiler de aynı yolu takip etti. Bu gönderilen isteklerle esasında daha ucuz bir model elde edilmesi amaçlandı. Google, söz konusu yöntemle toplanan bilgilerin klon yapay zeka modelleri oluşturmak için kullanılmak istendiğini düşünüyor. Şirketin tehdit analiz tarafında faaliyet yürüten John Hultquist, Google'ın bu saldırılara maruz kalan ilk büyük şirketlerden biri olduğunu belirtti. Bununla birlikte yapay zeka alanına yoğunlaşan diğer şirketlere de uyarıda bulunuldu. Dikkatli hareket edilmezse ileride çok sayıda klon yapay zeka modeli ile karşı karşıya kalınabilir. Gemini'a Yönelik Saldırı, Normal Kullanıcıyı Etkiliyor mu? Damıtma yöntemi ile elde edilen bilgiler, yapay zeka modelinin sahip olduğu bilgi havuzunun yalnızca küçük bir parçasını oluşturuyor. Sıradan bir kullanıcının kişisel bilgileri buna dahil değil. Dolayısıyla tehlike konumundaki siz değil, yapay zeka modelini geliştiren şirketler oluşuyor. Bu tür bir teknik ile elde edilen bilgiler sadece şirket açısından tehdit oluşturuyor. Dolayısıyla bu konuda endişelenmenize gerek yok.