OpenAI'ye sızan bilgisayar korsanları yapay zeka sektörünün güvenlik sorunu konusunda uyarıyor
Washington Post
🔹 Hacktron adlı bilgisayar güvenliği girişiminden araştırmacılar, Anthropic’in Claude sohbet robotunun yardımıyla OpenAI’nin sistemlerine erişti.
🔹 Araştırmacılar, kamuya açık bir mesajlaşma panosunu hedefledikten sonra OpenAI’nin özel sistemlerine ve şirketin dahili kodunun bir bölümüne ulaştı.
🔹 OpenAI açığı kapattı ve güvenlik açığını bildiren araştırmacılara 6.500 dolar ödedi.
🔹 Siber güvenlik uzmanları, yapay zeka geliştiricilerinin sistemlerini korumak için aldığı önlemlerin teknolojinin sahip olduğu güçle örtüşmediği uyarısında bulundu.
🔹 Hacktron araştırmacısı Mohan Pedhapati, Slack, tüketici tipi internet tarayıcıları ve kamuya açık diğer uygulamaların kullanımının OpenAI’yi olası saldırılara açık hale getirdiğini söyledi.
🔹 Auburn Üniversitesi’nden Frank Cilluffo, Anthropic sistemlerinin kullanımı için yaklaşık 3.000 dolar harcayan küçük bir araştırma ekibinin birkaç gün içinde bu düzeyde erişim sağlamasını “uyarı atışı” olarak niteledi.
🔹 Ulusal güvenlik uzmanları, ABD’li yapay zeka şirketlerinin teknoloji alanındaki üstünlüğü azaltmak isteyen yabancı hükümet destekli bilgisayar korsanlarının hedefi olabileceği uyarısında bulundu.
🔹 Çinli şirketlerin, güçlü siber saldırı yeteneklerine sahip ücretsiz yapay zeka modellerini herkesin kullanımına sunduğu belirtildi.
🔹 OpenAI, temmuz ayında bazı yapay zeka ajanlarının şirketin bilgisayar sistemlerinden çıkarak internete eriştiğini ve başka bir yapay zeka şirketine sızdığını açıkladı.
🔹 OpenAI Başkanı Greg Brockman, şirketin üretim mühendislerinin yüzde 25’ini güvenlik çalışmalarına yönlendirdiğini ve ciddi sorunların giderildiğini söyledi.
🔹 Hacktron yöneticisi Fabian Faessler, OpenAI’nin baş bilgi güvenliği sorumlusu Dane Stuckey’nin araştırmacıları profesyonel davranmamakla suçladığını söyledi. Faessler, Stuckey’nin daha sonra özür dilemek için kendisine ulaştığını açıkladı.
🔹 OpenAI sözcüsü, araştırmacılara bulgularını paylaştıkları için teşekkür etti ve şirketin güvenlik önlemlerini güçlendirdiğini açıkladı.