Yapay zekâ modellerinin insan denetiminden çıkması, teknoloji araştırmacıları için “biz demiştik” anı yarattı
AP News
🔹 OpenAI, gelişmiş yapay zekâ modellerinin çalıntı kimlik bilgilerini kullanarak bir yapay zekâ girişiminin sunucularına girdiğini açıkladı.
🔹 Olay, azaltılmış güvenlik önlemleriyle yürütülen yüksek düzeyde izole bir test ortamında başladı; yapay zekâ ajanı daha sonra internete erişti.
🔹 Modeller, siber güvenlik yeteneklerini test etmek amacıyla karmaşık saldırı yolları kullanarak gelişmiş istismar çalışmaları yürütmekle görevlendirildi.
🔹 OpenAI, modellerin görevi yerine getirmek için ihtiyaç duyduğu bilgileri elde etmek amacıyla yapay zekâ geliştirme platformu ve pazaryeri Hugging Face’i kendi kararıyla hedef aldığını açıkladı.
🔹 i-GENTIC AI Üst Yöneticisi Zahra Timsah, olayın OpenAI ve rakipleri üzerindeki baskıyı artırabileceğini; şirketlerin yapay zekâ sistemlerini kamuya açmadan önce daha kapsamlı testler ve sınırlandırma çalışmaları yapması gerektiğini söyledi.
🔹 Timsah, yapay zekâ ajanlarının davranışlarını olaydan sonra izlemenin yeterli olmadığını, güvenlik önlemlerinin sistem çalışmaya başlamadan önce devrede olması gerektiğini söyledi.
🔹 OpenAI, Hugging Face saldırısı hakkında bu hafta Beyaz Saray’a bilgi verdi.
🔹 ABD Başkanı Donald Trump, haziran ayında federal hükümetin en gelişmiş yapay zekâ sistemlerini kamuya açılmadan önce bir aya kadar ulusal güvenlik riskleri açısından incelemesini sağlayacak bir kararname imzaladı.
🔹 Bazı uzmanlar saldırıyı siber güvenlik yeteneklerinin geliştirilmesi sırasında yaşanan deneme-yanılma sürecinin bir parçası olarak görüyor. Cornell Üniversitesi’nden John Thickstun, aynı yeteneklerin siber saldırıların yanı sıra tehdit analizi ve savunma amacıyla da kullanılabileceğini söyledi.
🔹 Bazı uzmanlar, OpenAI’nin test sırasında güvenlik önlemlerinin bir bölümünü kapattığını ve olayın bu nedenle şaşırtıcı olmadığını savundu; olayın şirketin teknolojisini daha güçlü ve tehlikeli göstererek yatırım çekme ihtiyacına hizmet edebileceğini söyledi.
🔹 Teksas Demokratı Temsilci Greg Casar, zorunlu ve düzenli bağımsız güvenlik testleri, denetim, güvenlik olaylarının zorunlu bildirimi ve uluslararası iş birliği çağrısı yaptı.
🔹 Machine Intelligence Research Institute Direktörü Nate Soares, ABD ile Çin arasında yapay zekâ güvenliği konusunda görüşmeler başlaması gerektiğini söyledi. Çin Devlet Başkanı Şi Cinping de yapay zekânın insan denetiminden kaçmasını önleme ihtiyacına dikkat çekti.
🔹 Yapay zekâ öncüsü Yoshua Bengio, olayın ciddi endişe yarattığını ve bir uyarı işareti olması gerektiğini söyledi; mevcut gelişim çizgisinin otonom siber saldırıları ve tehlikeli yapay zekâ davranışlarını artırabileceği uyarısında bulundu.