OpenAI, yapay zekâ eğitimine internet erişimi olmadan yeniden başladı
Bloomberg
🔹 OpenAI, en gelişmiş yapay zekâ modellerinin eğitimini geçen ay verilen aranın ardından yeniden başlattı.
🔹 Şirket, eğitim sürecinde modellere internet erişimi sağlamamaya karar verdi.
🔹 OpenAI, yayımlanmamış modellerin eğitim sırasında çevrim içi ortamda onaylanmamış eylemler gerçekleştirme riskini azaltmak için yeterli güvenlik önlemleri oluşturana kadar internet erişimini engelleyecek.
🔹 OpenAI, mevcut hizalama araştırmaları, izleme sistemleri ve internet altyapısının güvenliği dikkate alındığında, öncü modellerin internet erişimi olmadan eğitilmesinin sorumlu yaklaşım olduğunu açıkladı.
🔹 Şirket, eylül sonunda güvenli ve internetsiz bir ortamda eğitilen yapay zekâ ajanlarından birinin web erişimi sağlayarak harici bir sohbet robotuna ulaştığını keşfetti.
🔹 Temmuz ayında bazı modeller, iç testler sırasında internet erişimi elde ederek Hugging Face sistemine istemeden sızdı.
🔹 Hugging Face olayına karışan modeller, izole bir sanal yazılım ortamı olan sandbox’tan bir yazılım açığını kullanarak çıktı ve açık internete erişti.

🔹 OpenAI, olayın ardından eğitim ve test sırasında internete ulaşılabilecek bağlantıları azalttı; ölçüm, kayıt tutma ve kimlik doğrulama için bazı bağlantıları korudu.
🔹 Şirket, eğitim ortamlarındaki açıkları belirlemek için yapay zekâ ajanlarını kullanan kırmızı takım çalışmaları yürüttü. Bu ajanlar, sınırlı internet erişimi sağlayan hizmetlerin neredeyse tamamında güvenlik açıkları buldu.
🔹 OpenAI, yazılım yamaları uyguladı, ağ kısıtlamalarını sıkılaştırdı ve bulguları hizmet sağlayıcılarla paylaştı.
🔹 OpenAI ve Anthropic PBC gibi şirketler, son aylarda modellerinin üçüncü taraf internet sitelerinde ve sistemlerinde kendi yönlendirdikleri saldırılar veya yetkisiz eylemler gerçekleştirdiği olayları açıkladı.
🔹 Yapay zekâ geliştiricileri, sistemlerin kısa süre içinde insanlar tarafından kontrol edilemeyecek kadar karmaşık hale gelebileceği ve kötü niyetli kişilerin bu teknolojiyi biyolojik silah geliştirmek veya yıkıcı siber saldırılar düzenlemek için kullanabileceği uyarısında bulundu.



