Çinli yapay zekâ şirketleri, üstünlüklerini kaybetmeden açık ağırlıklı modellerin siber risklerini sınırlayabilir mi?
South China Morning Post
🔹 Çin’in önde gelen yapay zekâ modeli şirketleri, ABD ve Çin şirketlerini etkileyen yüksek profilli yapay zekâ korsanlığı olaylarının ardından en gelişmiş açık ağırlıklı modellerinin siber saldırı yeteneklerini sınırlamaya başladı.
🔹 Tencent, en yeni Hy4 modelinin siber saldırı yeteneklerini kaldırırken siber savunma yeteneklerini koruduğunu açıkladı. Moonshot AI de ekimde Kimi K3.1 Pro modeli için benzer bir adım attı.
🔹 Açık ağırlıklı modeller yeterli donanıma sahip herkes tarafından indirilebildiği ve değiştirilebildiği için kötü niyetli aktörler modelleri yerel donanımlarda çalıştırabiliyor; şirketler bu kullanımı tamamen izleyemiyor.
🔹 Çinli şirketler açık ağırlıklı yaklaşımı terk etmek yerine eğitim verilerini filtreleyerek siber saldırı yeteneklerini seçici biçimde kaldırıyor. Tencent, Moonshot AI ve Z.ai modellerini aşamalı olarak yayımlarken açık ağırlıklı sürümleri kapalı kaynaklı sürümlerden haftalar sonra kullanıma sundu.
🔹 Eğitim verilerinden siber saldırı yeteneklerinin çıkarılması, modellerin jailbreak veya ince ayar yoluyla yerleşik ret mekanizmalarını aşan kötü niyetli aktörler için daha az kullanışlı kalmasına yardımcı olabilir. Ancak siber yeteneklerin hem savunma hem saldırı amacıyla kullanılabilmesi nedeniyle bu yöntem kötüye kullanımı tamamen önlemiyor.
🔹 Tencent ve Moonshot AI’nin uygulamaları, karşılaştırılabilir testler ve açık yayımlama eşikleri bulunmadığı için henüz sektör standardı sayılmıyor. Çinli geliştiriciler aşamalı yayımlama, güvenilir erişim programları ve eğitim verisi filtreleme gibi farklı güvenlik önlemlerini deniyor.

🔹 Moonshot AI’nin filtrelenmiş modeli, şirketin iç siber güvenlik kıyaslamasında yüzde 81 puan aldı; kısıtlamalar olmadan eğitilen sürüm yüzde 90,5 puana ulaştı.
🔹 Siber saldırı verilerinin eğitimden çıkarılması, modellerin bazı yeteneklerinden ödün verilmesine yol açabilir. Çinli modellerin kodlama ve aracı yapay zekâ kıyaslamalarında rekabeti koruması zorlaşabilir; ancak daha geniş rekabet gücünde henüz genel bir kayıp kanıtı bulunmuyor.
🔹 Çin Ticaret Bakanlığı ekimde belirli yapay zekâ teknolojileri için ihracat kontrolleri önerdi ve kritik siber saldırı eşiklerini aşan teknolojiler için ek kısıtlamalar öngördü.
🔹 Çinli şirketlerin açık kaynak yaklaşımını tamamen terk etmesi beklenmiyor; daha seçici bir açıklık politikasına yönelmeleri bekleniyor.




