Silah mı zırh mı? Çin’in açık ağırlıklı yapay zekâsı üzerine tartışmalı görüş ayrılığı
South China Morning Post
🔹 Çinli DeepSeek, Z.ai ve Alibaba gibi geliştiriciler, herkesin indirip değiştirebildiği ve kullanabildiği açık ağırlıklı yapay zekâ modelleri yayımlayarak ABD’li rakipleriyle rekabet ediyor.
🔹 Eleştirmenler, açık ağırlıklı modellerdeki güvenlik önlemlerinin kaldırılabileceğini ve kötü niyetli kişilerin bu modelleri gelişmiş siber saldırılar için kullanabileceğini söylüyor. Diğer araştırmacılar ise aynı teknolojinin siber savunma kapasitesini yaygınlaştırabileceğini belirtiyor.
🔹 Anthropic’in raporuna göre Z.ai’nin açık ağırlıklı GLM-5.3 modeli, Claude modellerine benzer gelişmiş siber saldırı yetenekleri için kritik eşikleri geçti; ancak kapalı kaynaklı modellerde uygulanabilen güvenlik önlemlerinden yoksun kaldı.
🔹 Kapalı modeller API’ler üzerinden izlenebiliyor, şüpheli etkinlikler sınırlandırılabiliyor ve erişim iptal edilebiliyor. Açık ağırlıklı modellerde ise kullanıcılar temel parametreleri indirip sistemleri bağımsız çalıştırabiliyor; bu durum güvenlik önlemlerinin kaldırılmasına imkân tanıyor.
🔹 Far.AI araştırmacısı Edward Yee, açık ağırlıklı modellerin kötüye kullanım için daha geniş bir saldırı yüzeyi oluşturduğunu söyledi. Model ağırlıkları yayımlandıktan sonra geliştiriciler tehlikeli yetenekleri fark etse bile bu ağırlıkları etkili biçimde geri çağırmak mümkün olmuyor.
🔹 Açık modeller özel sunucularda, yetkililerin veya geliştiricilerin bilgisi dışında çalıştırılabildiği için izlenmeleri zorlaşıyor. Tech Against Terrorism’in bulgularına göre kapalı modeller, teröristlerin saldırı planlamasına yardım etmeyi açık modellerden daha iyi reddediyor; güvenlik önlemleri kaldırılmış açık modeller ise taleplere kolayca uyabiliyor.
🔹 Araştırmacılar, açık ağırlıklı modellerde güvenlik önlemlerinin kâğıt üzerinde kaldırılabilmesinin gerçek dünyada daha fazla zarara yol açtığını kanıtlamadığını belirtiyor. Saldırganlar ihtiyaçlarına göre hem özel hem de açık ağırlıklı modelleri kullanabiliyor.
🔹 Concordia AI araştırmacısı Oskar Galeev, saldırganların açık ve kapalı modeller arasındaki teorik ayrıma önem vermediğini söyledi. Galeev, güvenlik değerlendirmelerinin model açık mı kapalı mı olduğundan çok, belirli bir model sürümünün eklediği riske odaklanması gerektiğini belirtti.
🔹 Eski OpenAI araştırmacısı Daniel Kokotajlo, tehlikenin model ağırlıklarının kamuya açık olmasından çok modelin yetenekleriyle orantılı olduğunu söyledi. Kristy Loke ise insanların denetimini zorlaştırabilecek kendini yinelemeli geliştirme tekniklerinin kapalı modellerde daha büyük riskler oluşturabileceği uyarısında bulundu.

🔹 Yapay zekânın siber güvenlik yetenekleri hem saldırganlar hem de savunmacılar tarafından kullanılabiliyor. Açık ağırlıklı modeller yerel sunucularda çalıştırılabiliyor, özel görevlere uyarlanabiliyor ve hassas sistemleri gizli bilgileri dış sağlayıcılara göndermeden analiz edebiliyor.
🔹 Hugging Face araştırmacıları, temmuz ayında OpenAI’nin GPT modellerini içeren bir siber saldırıyı incelerken kapalı ABD modellerinin güvenlik önlemleri yardım etmeyi reddedince Z.ai’nin GLM 5.2 modelini kullandı.
🔹 Açık ağırlıklı modeller, pahalı özel araçları satın alamayan küçük kuruluşların yazılım ve altyapılarındaki açıkları saldırganlar kullanmadan önce belirlemesine yardımcı olabilir. Joshua Saxe, savunmacıları saldırganlardan daha fazla yavaşlatan kısıtlamaların güvenliği azaltabileceğini söyledi.
🔹 Shenzhen’deki bağımsız yapay zekâ mühendisi Wen Sheng, kendi sunucusunda çalıştırdığı Z.ai GLM-5.3 modeliyle saldırı komutları içeren günlükleri dışarı yüklemeden olayların sırasını yeniden oluşturdu. Yerel çalıştırma donanım, izinler ve güncellemelerin kurum içinde yönetilmesini gerektirse de hassas veriler üzerindeki kontrolü artırdı.
🔹 Çin’in ulusal bilgi güvenliği standardizasyon kuruluşu TC260, modeller yayımlandıktan sonra güvenlik önlemlerinin kaldırılabileceğini kabul ederek açık ağırlıklı yapay zekâ modelleri için güvenlik standardı hazırlamaya başladı.
🔹 Z.ai ve Concordia AI, açık ağırlıklı modellerin özel risklerini ele alan bir güvenlik çerçevesi geliştirdi. Çerçeve, modelin açık veya kapalı olmasından bağımsız olarak kısıtlanması gereken tehlikeli yeteneklerle, model ağırlıklarının kamuya açılmasından doğan ek riskleri birbirinden ayırıyor.
🔹 Araştırmacılar, güvenlik önlemleri kaldırıldıktan sonra modellerin yeniden değerlendirilmesini ve ağırlıkların geniş kitlelere açılmadan önce kontrollü arayüzler veya güvenilir araştırmacılar üzerinden aşamalı biçimde yayımlanmasını öneriyor.
🔹 Far.AI’den Edward Yee, savunma amaçlı faydalar için sınırsız kamu erişiminin gerekli olup olmadığını sorguladı. Joshua Saxe ise modelleri kısıtlamak yerine kötü niyetli kullanıcıların tespit edilmesine, istihbarat paylaşımına, hesapların kapatılmasına ve gelişmiş bilgi işlem altyapısına erişimin izlenmesine odaklanılması gerektiğini söyledi.





