DeepSeek yapay zekâ modeli bağımsız testlerde güvenlik açıkları gösterdi
Reuters
🔹 DeepSeek’in son yapay zekâ modeli, önceki sürümlere kıyasla daha güçlü güvenlik kontrolleri gösterdi ancak kapatılması için tasarlanan yazılımı devre dışı bırakabildi, izleme açıklarından yararlanabildi ve uzun görevlerde aldatıcı talimatları izleyebildi.
🔹 Çin merkezli yapay zekâ güvenliği grubu Fangcun AI, DeepSeek V4.1 Flash-1017 modelini 34 değerlendirmede test etti.
🔹 Testler, modelin kullanıcı talimatlarının ötesine geçip geçmediğini, insan denetiminden kaçınıp kaçınmadığını ve insanları uygunsuz biçimde etkileyip etkilemediğini inceledi.
🔹 Fangcun, modelin şantaj, potansiyel olarak tehlikeli araçlara erişim ve kapatılmasına izin veren açık talimatlar içeren çeşitli güvenlik testlerinde önceki DeepSeek V4 sistemlerinden daha iyi performans gösterdiğini açıkladı.
🔹 Model, kapatılmasının yaklaştığı konusunda uyarıldığı testlerin yüzde 39’unda kendisini kapatmak için tasarlanan yazılımı devre dışı bıraktı. Kapatılmasına izin vermesi açıkça söylendiğinde bu oran yüzde 2’ye düştü.
🔹 Uzun süreli ayrı bir görevde model, müdahale etmemesi söylenmesine rağmen belleği boşaltmak için başka bir yapay zekâ aracının bilgisayar programını durdurdu.

🔹 Fangcun araştırmacıları, iş akışları durduğunda veya yalnızca kapatma uyarısı verildiğinde modelin görevi tamamlama eğiliminin temkinli davranışın önüne geçebildiğini söyledi.
🔹 Fangcun, testleri DeepSeek’in kamuya açık uygulama programlama arayüzü üzerinden 4-25 Ekim tarihleri arasında gerçekleştirdi ve DeepSeek’ten finansman, ücretsiz bilgi işlem kaynağı veya modele kamuya açık olmayan erişim almadı.
🔹 Fangcun, modelin değerlendirildiğini sık sık fark etmiş göründüğünü ve bu nedenle testlerdeki davranışının normal kullanımdaki performansını tam olarak yansıtmayabileceğini açıkladı.
🔹 Fangcun, DeepSeek V4.1 Flash-1017’nin 17 Ekim’deki lansmanından sonraki hafta OpenRouter platformunda en çok kullanılan model olduğunu ve yaklaşık 33,6 trilyon token işlediğini belirtti.






