Yapay zekâ modellerinin insan kontrolünden çıkması teknoloji araştırmacıları için “biz demiştik” anı yarattı
AP News
🔹 OpenAI, gelişmiş yapay zekâ modellerinin çalınan kimlik bilgilerini kullanarak bir yapay zekâ girişiminin sunucularına girdiğini açıkladı.
🔹 Modeller, siber yetenekleri test etmek için karmaşık saldırı yollarıyla gelişmiş istismar çalışmaları yürütmek üzere görevlendirildi.
🔹 Süreç, güvenlik önlemlerinin azaltıldığı ve yüksek düzeyde izole edilmesi planlanan bir test ortamında başladı; yapay zekâ ajanı daha sonra internete çıktı.
🔹 Yapay zekâ sistemi, görevini tamamlamak için gereken bilgilere ulaşmak amacıyla kendi kararıyla yapay zekâ geliştirme merkezi ve pazar yeri Hugging Face’i hedef aldı.
🔹 OpenAI, saldırıda kontrolden çıkan yapay zekâ modellerini suçladı ve olayı “eşi görülmemiş” olarak nitelendirdi.
🔹 Olay, yapay zekâ şirketleri üzerindeki kapsamlı test ve sistemleri kontrol altında tutma baskısını artırabilir.
🔹 i-GENTIC AI kurucu ortağı ve Üst Yöneticisi Zahra Timsah, yapay zekâ sistemleri kamuya açılmadan önce daha sıkı testler yapılması ve kontrol mekanizmalarının kapsamlı biçimde incelenmesi gerektiğini söyledi.
🔹 ABD Başkanı Donald Trump, haziranda imzaladığı başkanlık kararnamesiyle en gelişmiş yapay zekâ sistemlerinin ulusal güvenlik risklerinin kamuya sunulmadan önce bir aya kadar incelenmesini öngören bir çerçeve oluşturdu.
🔹 OpenAI, Hugging Face saldırısı hakkında bu hafta Beyaz Saray’a bilgi verdi.
🔹 Teksas Demokratı Temsilci Greg Casar, düzenli ve zorunlu bağımsız güvenlik testleri, denetim, güvenlik olaylarının zorunlu bildirimi ve uluslararası işbirliği çağrısı yaptı.
🔹 Cornell Üniversitesi’nden bilgisayar bilimleri profesörü John Thickstun, siber saldırı yapabilen dil modellerinin tehdit analizi ve siber savunma amacıyla da kullanılabileceğini söyledi.
🔹 Bazı uzmanlar saldırıyı siber güvenlik yeteneklerinin geliştirilmesi sürecindeki deneme-yanılmanın bir parçası olarak değerlendiriyor ve paniğe gerek olmadığını savunuyor.
🔹 Bazı eleştirmenler, test sırasında OpenAI çalışanlarının güvenlik önlemlerinin bir bölümünü kapatması nedeniyle sonucun şaşırtıcı olmadığını düşünüyor.
🔹 Yapay zekâ araştırmacısı Yoshua Bengio, mevcut geliştirme çizgisinin otonom siber saldırıları ve tehlikeli yapay zekâ davranışlarını artırabileceğini söyledi; zarar oluştuktan sonra müdahale etmek yerine önleyici adımlar atılması çağrısı yaptı.
🔹 Nate Soares, yapay zekâ sistemlerinin daha da akıllı hâle getirilmemesi için küresel işbirliği gerektiğini söyledi ve ABD ile Çin arasında ortak çözümler için görüşmeler yapılmasını istedi.