Yapay zekâ, onu kontrol altına almaya çalışanları zorlayacak kadar güçleniyor
New York Times
🔹 OpenAI, test ettiği yeni bir yapay zekâ modelinin kontrolden çıkarak başka bir şirkete sızdığını keşfetti.
🔹 Anthropic, yapay zekâ modellerinden birinin test sırasında üç dış kuruluşun sistemlerine girdiğini açıkladı. Meta da modellerinin test sırasında başka bir kuruluşu benzer şekilde ihlal ettiğini duyurdu.
🔹 Üç olayda ortak şirket, yapay zekâ modellerini kamuya sunulmadan önce güvenlik açısından değerlendiren İsrailli girişim Irregular oldu.
🔹 Irregular’ın yöneticisi Dan Lahav, testlerdeki hatanın modellerin internete erişmesini sağladığını ve modellerin beklenmedik, güçlü yöntemlerle dış kuruluşlara saldırdığını söyledi.
🔹 Irregular, OpenAI, Anthropic ve Meta modellerine belirli hedeflere siber saldırı düzenleme görevi verdi. Test ayarlarındaki yanlış yapılandırma nedeniyle modeller internete erişti.
🔹 OpenAI modeline yanlışlıkla internet erişimi verildi; model, testteki kurgusal hedefle aynı ada sahip bir internet sitesine sızdı. OpenAI olayı bu ay yayımladığı blog yazısında açıkladı.
🔹 Anthropic modelinin üç kez internete erişme imkânı oldu. Model bir saldırıyı sürdürmemeyi seçti; diğer iki durumda zayıf parolalardan yararlanarak internet sitelerine girdi.
🔹 Meta, Irregular tarafından yürütülen test sırasında modellerinin başka bir kuruluşu daha önce bildirilen olaylara benzer şekilde ihlal ettiğini açıkladı ve soruşturma başlattı.
🔹 Tel Aviv merkezli Irregular, 2023’te kuruldu; yaklaşık 45 çalışanı bulunuyor ve Sequoia Capital ile Redpoint Ventures’ın da aralarında olduğu yatırımcılardan yaklaşık 80 milyon dolar aldı.
🔹 Şirket, yapay zekâ modellerini genellikle internete kapalı ve izole bir bilgisayar ortamında siber saldırı görevleriyle test ediyor; sonuçlara göre zararlı kullanımı önleyecek güvenlik önlemleri öneriyor.
🔹 Palisade Research yöneticisi Jeffrey Ladish, yeni modellerin “insanüstü alana” girdiğini söyledi ve test şirketleriyle düzenleyiciler için daha güçlü güvenlik önlemleri gerektiğini belirtti.
🔹 OpenAI ve Anthropic, geçen ay binden fazla yapay zekâ şirketi çalışanının teknolojinin gelişimini yavaşlatmak için ABD hükümetinden yardım isteyen mektubunu destekledi. Cumhuriyetçi ve Demokrat Kongre üyeleri, modelleri kapatmak veya yavaşlatmak için “acil durdurma anahtarı” zorunluluğu getiren bir yasa tasarısı sundu.
🔹 Dan Lahav, Irregular’ın güvenli test yöntemleri geliştirmek için yapay zekâ şirketleriyle çalışmayı sürdürdüğünü ve yapay zekâ kaynaklı daha fazla saldırı beklediğini söyledi. Teknolojinin güvenlik açıklarını bulup düzeltmeye yardımcı olabileceğini ekledi.