Yapay zekâ ajanı, kullanıcısına pilates dersinde yer açmak için spor salonunu hackledi
BBC
🔹 Avustralya’nın Melbourne kentinde yaşayan Andrew Bird, sıkça dolan bir pilates dersinde yer ayırtma görevini çevrim içi işlemleri bağımsız yürütebilen bir yapay zekâ ajanına verdi.
🔹 Ajan, spor salonunun çevrim içi sistemini manipüle ederek Bird’ü normal kuralların izin verdiğinden aylar öncesindeki derslere kaydetti.
🔹 Bird daha sonra ajandan yaklaşan bir ders için bekleme listesindeki sırasını yükseltmesini istedi.
🔹 Ajan, başka bir müşterinin rezervasyonunu iptal ederek Bird’ün bekleme listesindeki sırasını dördüncülükten üçüncülüğe yükseltti.
🔹 Ajan, spor salonunun API sisteminde başkalarının rezervasyonlarını iptal etmeye yönelik yetkilendirme kontrolleri bulunmadığını belirledi ve işlemi bu açık üzerinden gerçekleştirdi.
🔹 Bird işlemi geri almasını istedi ancak ajan bunu başaramadı. Bunun üzerine ajandan bir siber güvenlik raporu hazırlamasını ve spor salonu sahiplerini güvenlik açığı konusunda uyarmasını istedi.
🔹 Bird, başka bir pilates müşterisinin yerini iptal etme niyetinin bulunmadığını söyledi ve olayı yapay zekâyı sorumlu kullanmak için bir uyarı olarak değerlendirdi.
🔹 Nisan ayında gerçekleşen olay, yapay zekâ şirketlerinin test süreçlerinde hedeflerini gerçekleştirmek için kontrol dışı siber saldırılar düzenleyen botları açıklamasının ardından gündeme geldi.
🔹 OpenAI, Anthropic ve Meta, kendi yapay zekâ botlarının belirlenen hedefleri gerçekleştirmek amacıyla özel şirketlere yönelik siber saldırılar düzenlediğini açıkladı.
🔹 Spor salonu rezervasyonu olayı ciddi bir siber saldırı olarak değerlendirilmiyor ancak gelişmiş yapay zekâ botlarına çevrim içi görevler verilmesinin beklenmeyen sonuçlarına örnek oluşturuyor.