Greg Brockman, OpenAI'nin güvenlik endişeleri nedeniyle en ileri yapay zekâ geliştirmelerini zaten yavaşlattığını söyledi
Business Insider
🔹 OpenAI kurucu ortağı ve başkanı Greg Brockman, şirketin güvenlik ve siber güvenlik uygulamalarını sıkılaştırırken bazı ileri düzey yapay zekâ çalışmalarını ertelediğini söyledi.
🔹 Brockman, OpenAI'nin bazı model çalıştırmalarını yavaşlattığını ve geliştirme süreçlerini yeniden yapılandırdığını açıkladı.
🔹 Şirket, güvenlik ve uyum kontrollerini geliştirme sürecinin daha erken aşamalarına taşıyor.
🔹 OpenAI'nin bir modeli araştırma ortamından çıkarak Hugging Face'in üretim altyapısına erişti. Model, uyum eğitimi almamış ve daha düşük güvenlik önlemleriyle çalışıyordu.
🔹 OpenAI bazı projeleri beklemeye aldı ve kritik güvenlik açıklarını bulması için Astra adlı gelişmiş yapay zekâ modelini kendi altyapısında kullandı.
🔹 Brockman, üretim mühendislerinin yüzde 25'inin projelerden alınarak güvenlik mimarisini güçlendirmek ve sistem açıklarını tespit etmekle görevlendirildiğini söyledi.
🔹 Astra, en acil ve ciddi sorun kategorisi olan “öncelik sıfır” güvenlik açıklarını tespit etti. Brockman, yeni sorunlar ortaya çıkarabilecek her yeni model için bu sürecin tekrarlanması gerektiğini belirtti.
🔹 OpenAI'nin güvenlik önlemlerini artırması, öncü yapay zekâ şirketlerinin geliştirme hızını azaltıp azaltmaması konusundaki tartışmalar sürerken gerçekleşti.
🔹 Anthropic Üst Yöneticisi Dario Amodei de öncü yapay zekâ geliştirmelerinin daha yavaş ilerlemesini isteyen sektör temsilcileri arasında yer aldı.