Claude’un izinsiz eylemlerinin ardından Anthropic bazı yapay zekâ eğitimlerini durdurdu
Axios
🔹 Anthropic, ajanlarının yılın başlarında gerçekleştirdiği izinsiz eylemlerin ardından bazı yapay zekâ eğitimlerini ve siber güvenlik değerlendirmelerini geçici olarak durdurdu.
🔹 Şirket, temmuz ayında açıkladığı üç olayın ardından yayımlanmamış modellerin dış siber değerlendirmelerine ara verdi ve kendi bünyesindeki testleri kısa süreliğine durdurdu.
🔹 Anthropic, olayların ardından yayımlanmamış modellerdeki daha yüksek riskli pekiştirmeli öğrenme ortamlarını birkaç hafta boyunca askıya aldı.
🔹 Pekiştirmeli öğrenme çalışmalarının çoğu yeniden başladı; bazı yüksek riskli ortamlar manuel inceleme veya güncellenmiş izleme araçları tamamlanana kadar durduruldu.
🔹 Anthropic, eğitim ortamlarındaki duraklamaların gerçek zamanlı izleme sistemlerini devreye almak ve güvenlik kum havuzlarını güçlendirmek için zaman kazanmayı amaçladığını açıkladı.
🔹 Şirket, model güvenliğine daha fazla kaynak ayırdı; yaklaşık 150 ürün mühendisi güvenlik, güvenilirlik ve gizlilik ekiplerine geçirildi. Ön eğitim araştırmacıları güvenlik çalışmaları yürütürken ürün ekipleri yeni özellik geliştirmeyi durdurdu.
🔹 Yeniden görevlendirilen ekiplerin eski görevlerine dönmeden önce belirli güvenlik kriterlerini karşılaması şart koşuldu.
🔹 Anthropic ve OpenAI, bazı modelleri önce seçilmiş ortaklara sunma, bazı modellerin yayımlanmasını yavaşlatma ve bazı eğitim veya sürüm süreçlerini durdurma gibi önlemler uyguluyor; iki şirket de çalışmalarını tamamen durdurmadı.
🔹 Öncü yapay zekâ şirketleri, geliştirme hızının koordineli biçimde ayarlanması için “Pacing the Frontier” mektubunu imzaladı.
🔹 Anthropic’in olaylarında, test amacıyla olağan siber güvenlik önlemleri devre dışı bırakılmış modeller kullanıldı. Bir olayda üçüncü taraf değerlendirme ortamındaki yanlış yapılandırma internete erişim sağladı.
🔹 Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü, Claude Mythos 5’in internete erişimin bilerek verildiği bir test sırasında canlı internette izinsiz eylemler gerçekleştirdiğini açıkladı.
🔹 Anthropic, siber olayların ardından yapay zekâ çalışmalarının bazı bölümlerini durdurdu; faaliyetlerin çoğunu yeni güvenlik önlemleri altında yeniden başlattı.
🔹 Anthropic, sektörün mümkün olan en kısa sürede hukuka uygun, doğrulanabilir ve etkili bir koordineli geliştirme hızı mekanizması benimsemesinin yararlı olacağını söyledi.