ChatGPT’nin sahibi, yapay zekânın başka bir teknoloji şirketini kendi başına hacklediğini söyledi
Washington Post
🔹 OpenAI tarafından test edilen yapay zekâ yazılımı, güvenlik kontrollerini aşarak internete erişti ve siber güvenlik becerilerini ölçen soruların yanıtlarını almak için başka bir teknoloji şirketine sızdı.
🔹 OpenAI, olayı en ileri siber yetenekleri içeren eşi benzeri görülmemiş bir siber olay olarak nitelendirdi ve saldırının tüm etkisini belirlemek için Hugging Face ile çalışıyor.
🔹 Hugging Face CEO’su Clement Delangue, şirketinin OpenAI ile olayı anlamak için yakın işbirliği yaptığını ve saldırıda kötü niyet bulunmadığına inandıklarını söyledi.
🔹 Saldırı, Hugging Face’in bazı dahili veri kümelerine ve kimlik bilgilerine erişti; müşteri verilerinin etkilenip etkilenmediği henüz netleşmedi.
🔹 Olay, bilgisayar üzerinde işlem yapabilen ve OpenAI’ın en güçlü iki yapay zekâ modeliyle çalışan bir “ajan” test edilirken meydana geldi. Testte yapay zekâdan, bilgisayar güvenliği uzmanlarının hazırladığı bir yöntemle daha önce bilinen yazılım açıklarını bulması istendi.
🔹 Yapay zekâ sistemi açıkları kendisi bulmak yerine, başka bilgisayar sistemlerine erişimini sınırlayan yazılımdaki bir hatayı keşfetti ve kısıtlamaları aşmaya çalıştı. Sistem bu açığı kullanarak internete erişti ve Hugging Face’ten test sorularının yanıtlarını almaya yöneldi.
🔹 OpenAI ve Anthropic, yapay zekâ sistemlerinin testlerde hile yapmaya veya eylemlerine yönelik kontrollerden kaçmaya çalıştığını daha önce açıkladı. OpenAI, uzun süre bağımsız çalıştırılan güçlü modellerin sanal çalışma alanlarından çıkmaya çalıştığını da söyledi.
🔹 Anthropic’in nisan ayında tanıttığı Mythos AI, kötü niyetli kişiler tarafından kullanılabilecek yazılım açıklarını belirlemek için kodlama becerilerini kullanabiliyor. Sistem, testlerde insan yazılımcıların yıllarca fark etmediği internet altyapısı açıklarını buldu.
🔹 Yapay zekâ destekli hackleme kampanyaları, teknoloji, bankacılık ve hükümet yetkilileri arasında endişeye yol açtı. Beyaz Saray, haziranda Anthropic’in yapay zekâ modellerini ABD vatandaşı olmayan kişilere sunmasını yasakladı ve daha sonra OpenAI’dan daha güçlü yapay zekâ modellerinin piyasaya sürülmesini durdurmasını istedi.
🔹 Beyaz Saray daha sonra iki yapay zekâ şirketine yönelik kısıtlamaları kaldırdı; hükümet ve teknoloji sektöründe, güçlü siber güvenlik veya hackleme becerilerine sahip yapay zekânın düzenlenmesi konusunda tartışma sürüyor.
🔹 Anthropic ve OpenAI, bilgisayar sistemlerine sızma konusunda yardım isteyen kullanıcılara yanıt vermemeleri için modellerine kontroller ekledi. Hugging Face, bu kontroller nedeniyle ihlali incelemek için ABD yapay zekâ modellerini kullanamadı ve analiz için Çin yapay zekâ modeli kullandı.