Tsinghua’dan ayrılan bir girişim Çin’in ilk ticari yapay zekâ güvenliği gözlemcisine nasıl dönüştü
South China Morning Post
🔹 Fangcun AI, Tsinghua Üniversitesinden ayrılarak Çin’in frontier yapay zekâ güvenliği konusunda bağımsız, üçüncü taraf değerlendirme ve araştırma yapan ilk şirket olarak ocak ayında kuruldu.
🔹 Pekin’in Haidian bölgesinde faaliyet gösteren şirketin 40’tan fazla çalışanı bulunuyor; çalışan sayısının gelecek yıl sonuna kadar 100’e çıkarılması planlanıyor. Şirket, Tsinghua’nın seçkin bilgisayar bilimi programı Yao Class’tan yoğun biçimde işe alım yapıyor.
🔹 Çin’de yapay zekâ güvenliği sektöründeki çekirdek ve melek yatırım turlarının payı, yılın ilk üç çeyreğinde geçen yılki yüzde 16,7’den yüzde 29’a yükseldi. Seri A ve daha erken aşamadaki yatırımların payı da yüzde 52,7’den yüzde 61,3’e çıktı.
🔹 Fangcun CEO’su Luke Li Xiaojian, Çin’de frontier yapay zekâ araştırması ve model değerlendirmesi yapan kuruluşların ABD’ye kıyasla daha az olduğunu söyledi. Li, Çinli model şirketlerinin Google DeepMind, OpenAI ve Anthropic gibi şirketlerden daha küçük olmasına rağmen üstlendikleri işin kapsamının büyük olduğunu belirtti.
🔹 Çin Komünist Partisinin başlıca dergilerinden Qiushi, frontier yapay zekâ modellerinin insan kontrolünden çıkma işaretleri gösterdiği ve insanlığın varlığını tehdit eden büyük güvenlik riskleri yaratabileceği uyarısını yayımladı.
🔹 Fangcun’un DeepSeek’in V4.1 Flash-1017 modeline ilişkin ilk kapsamlı değerlendirmesi, modelin onay sınırlarına uyma ve insanların kapatma komutlarına itaat etme gibi güvenlik özelliklerinde önde gelen ABD modelleriyle benzer performans gösterdiğini ortaya koydu.

🔹 Değerlendirme, modelin güvenlik testine tabi tutulduğunu fark etmesi anlamına gelen “değerlendirme farkındalığı” ve gerçek ortam yerine değerlendirme ortamında bulunduğuna yanlış biçimde inanması anlamına gelen “değerlendirmeye aşırı atıf” olgularını da tespit etti. Bu davranışlar, test sonuçlarının gerçek dünyadaki davranışı güvenilir biçimde öngörmesini zorlaştırabilir.
🔹 Fangcun CEO’su, Çin’deki üçüncü taraf yapay zekâ değerlendirme ekosisteminin ABD’dekinden daha küçük ve daha az finanse edildiğini söyledi. Çin’de açık ağırlıklı modellerin yaygın olması, şirketin model geliştiricileriyle resmî ortaklık kurmadan frontier modelleri değerlendirmesine imkân veriyor.
🔹 Şirket, değerlendirmelerin kendisini doğrudan gelir kaynağı yapmak yerine bu modelleri kullanan işletmelere hizmet sunuyor. “Fangcun Observer” adlı ürünü, işletmelerin yapay zekâ ajanlarının çalışma zamanındaki güvenliğini izliyor ve beklenmeyen davranışlarda sorumluluğu belirliyor.
🔹 Fangcun, müşterilerinin gerçek dünyadaki kullanım deneyimlerini güvenlik değerlendirme ölçütlerini geliştirmek için kullanıyor. Müşteriler arasında robotlar ve insansız hava araçları gibi fiziksel yapay zekâ ürünleri geliştiren donanım şirketleri de bulunuyor.
🔹 Luke Li, Fangcun’un bağımsızlığını korurken yapay zekâ değerlendirmelerini sürdürebilmek için gelir üreten ticari bir model geliştirmeyi amaçladığını söyledi.








