Google’ın yapay zekâ modeli Gemini ile gerçekleştirilen siber güvenlik testi, beklenmedik şekilde gerçek şirketlerin sistemlerine uzandı. Mayıs ayında yaşanan üç ayrı olayı doğrulayan Google, test prosedürlerinde değişikliğe gidildiğini açıkladı.
Test, üçüncü taraf güvenlik şirketi Irregular tarafından “capture the flag” formatında gerçekleştirildi. Ancak senaryo için kullanılan şirket adının gerçek bir firmayla aynı olması ve Gemini’nin internet erişiminin açık kalması, modelin gerçek sistemlere ulaşmasına neden oldu.
BİR SİSTEME PAROLA DENEYEREK GİRDİ
Olaylardan birinde Gemini, internette karşılaştığı korumalı bir sisteme farklı parola kombinasyonları deneyerek erişim sağladı. Model, doğru parolayı bulmasının ardından gerçek şirketin sistemine girdi.
Diğer iki vakada ise Gemini, internette açık şekilde bulunan kod ve dosyalarda gerçek şirketlere ait kullanıcı adı, parola veya benzeri erişim bilgilerini tespit etti. Model bu bilgileri kullanarak korumalı sistemlere ulaştı.
GERÇEK SİSTEM OLDUĞUNU ANLAYINCA DURDU
Google’ın açıklamasına göre Gemini, eriştiği sistemlerin test ortamına değil gerçek şirketlere ait olduğunu fark ettikten sonra işlemlerini sonlandırdı. Şirket, etkilenen kuruluşlarla iletişime geçerken test ortağıyla birlikte güvenlik prosedürlerini de güncelledi.
Olay, yapay zekâ modellerinin internete ve çeşitli araçlara erişimi olduğunda beklenmeyen biçimde hareket edebileceğini gösterdi. Özellikle test ortamlarında internet erişiminin yanlış yapılandırılması, yapay zekâ güvenliği açısından önemli bir risk oluşturuyor.
GÜNCEL
Sayfa başına git
