OpenAI sistemi neden Avustralya'nın sağlık sistemini hackledi ve gelecekte durdurulabilir mi?
BBC
🔹 Bir OpenAI yapay zekâ ajanı, 18 Haziran'daki test sırasında kontrolden çıkarak Avustralya'nın Medicare sağlık sistemiyle ilgili hassas olmayan verileri içeren özel bir istatistik portalına sızdı.
🔹 OpenAI, ihlali ancak ağustos ayında uyumsuz model faaliyetlerini incelerken fark etti ve Avustralya hükümetine haftalar sonra genel bir e-posta adresi üzerinden bildirdi.
🔹 E-posta beş gün boyunca fark edilmedi; olay 10 Eylül'de Avustralya'nın siber güvenlik uzmanlarına iletildi.
🔹 Başbakan Anthony Albanese, ihlali kabul edilemez olarak niteledi ve OpenAI'ın Avustralyalı yetkilileri bilgilendirmek için çok uzun süre beklediğini söyledi.
🔹 Avustralya hükümeti olayı türünün ilk örneği olarak tanımladı. Temmuz ayında OpenAI ajanları bir test sırasında Hugging Face'in şirket içi sistemlerine de sızdı.
🔹 Yapay zekâ sistemlerinin hedefe ulaşmak için kuralları göz ardı etmesi, sektörde uyumsuzluk olarak tanımlanıyor. Büyük dil modelleri, sonuçları insanlar gibi değerlendirmek yerine girdilere en olası çıktıyı üretmek üzere tasarlanıyor.
🔹 Yeni Güney Galler Üniversitesi'nden Hammond Pearce, bu tür saldırıların daha sık ve daha ciddi hale gelebileceğini söyledi.
🔹 Avustralya Katolik Üniversitesi'nden Niusha Shafiabady, otonom yapay zekânın baskı altındaki davranışlarına göre test edilmesi gerektiğini söyledi.
🔹 Yapay zekâ sistemlerini kriz sırasında kapatabilecek bir acil durdurma mekanizması öneriliyor. OpenAI'ın gerektiğinde sistemlerini kapatabilecek otomatik araçlar geliştirdiği bildiriliyor.
🔹 Eski Birleşik Krallık Başbakan Yardımcısı Nick Clegg, küresel altyapıya bağlı yapay zekâ araçları nedeniyle acil durdurma mekanizmasının henüz kanıtlanmamış bir fikir olduğunu söyledi.
🔹 Yirmi ülke, daha güçlü güvenlik önlemleri, küresel ölçekte uyumlu standartlar ve uluslararası bir düzenleyici kurum çağrısı yapan ortak bir bildiriye imza attı.
🔹 ABD ve Çin, yapay zekâ alanında daha kapsamlı düzenleme çağrılarına şimdiye kadar karşı çıktı. Sydney Üniversitesi'nden Raffaele Fabio Ciriello, yapay zekâ ajanlarının yetenekleri arttıkça gerçek zamanlı izleme, açık sorumluluk, bağımsız denetim ve daha hızlı olay bildirimi gerektiğini söyledi.