Çin, açık ağırlıklı yapay zekâyı daha az tehlikeli hale getirmenin yollarını değerlendirirken rapor altı aşamalı süreç öneriyor
South China Morning Post
🔹 Z.ai ve Pekin merkezli Concordia AI, açık ağırlıklı yapay zekâ risklerinin yönetimi için altı aşamalı bir yaşam döngüsü süreci öneren rapor yayımladı.
🔹 Açık ağırlıklı modellerin eğitilmiş parametreleri herkes tarafından indirilebiliyor, değiştirilebiliyor, ince ayar yapılabiliyor ve bağımsız olarak çalıştırılabiliyor.
🔹 Model yayımlandıktan sonra geliştiriciler kullanıcı faaliyetlerini izleme veya kötüye kullanımı durdurma kontrolünü kaybedebildiği için güvenlik kontrollerinin geliştirme sürecinin ilk aşamalarına taşınması gerekiyor.
🔹 Önerilen süreç; risklerin belirlenmesi, eşiklerin oluşturulması, analiz, değerlendirme, azaltma ve yönetişim aşamalarından oluşuyor.
🔹 Raporda eğitim verilerinin düzenlenmesi en güçlü savunma katmanlarından biri olarak gösterildi. Geliştiricilerden, modeller yayımlanmadan önce tehlikeli içerikleri eğitim veri kümelerinden filtrelemeleri istendi.
🔹 Çinli teknoloji şirketleri ve düzenleyiciler, açık ağırlıklı yapay zekâ geliştirmesinde şeffaflığı ve yönetişimi artırmaya yönelik adımlar atıyor.
🔹 Xiaomi, MiMo-V2.6 modellerinin pekiştirmeli öğrenme sürecini canlı yayımladı; şirket hesaplama maliyetlerini, hata kayıtlarını ve eğitim verisi karışım oranlarını gerçek zamanlı olarak gösterdi.
🔹 Z.ai, kullanıcıların ZCode kodlama asistanının yerel çalışma alanı verilerini izinsiz olarak dış sunuculara yüklediğini keşfetmesinin ardından aracı açık kaynaklı hale getirme planını duyurdu. Şirket özür diledi ve üçüncü taraf denetçileri kod tabanını incelemeye davet edeceğini açıkladı.
🔹 Pekin, 14 Eylül’de daha sıkı güvenlik protokolleri ve uluslararası iş birliği çağrısı yapan ulusal Yapay Zekâ Güvenliği Yönetişim Çerçevesi’ni yürürlüğe koydu.
🔹 Çin’in düşük maliyetli yapay zekâ sistemleri ABD’nin özel modellerinin üstünlüğüne meydan okurken açık ağırlıklı modeller ABD-Çin teknoloji yarışının başlıca alanlarından biri haline geldi.
🔹 Moonshot AI’ın Kimi K3 modeli temmuz ayında bazı önemli kıyaslamalarda önde gelen kapalı kaynaklı ABD sistemleriyle aynı seviyeye ulaştı veya onları geçti. Xiaomi’nin MiMo-V2.6-Pro, Alibaba’nın Qwen3.8-Max ve Z.ai’ın GLM-5.3 modelleri daha sonra Artificial Analysis tarafından hazırlanan zekâ endeksinde Kimi K3’ü geride bıraktı.
🔹 Çin’in yapay zekâ alanındaki ilerlemesi, Washington’da yabancı açık kaynaklı modellerin yasaklanması ihtimaline ilişkin tartışmaları yeniden gündeme getirdi. Nvidia, Google ve OpenAI dahil ABD’li teknoloji şirketleri geniş kapsamlı yasaklara karşı çıktı; Mark Zuckerberg ise ABD modellerinin rekabet gücünün artırılmasını önerdi.