ABD’li yapay zekâ liderleri Çin’in açık ağırlıklı modellerine yönelerek kapalı kaynaklı güvenlik iddialarına meydan okuyor
South China Morning Post
🔹 Yapay zekâ öncüsü Andrew Ng, açık ağırlıklı modellerin kapalı ağırlıklı modellere kıyasla kendisine daha güvenli göründüğünü söyledi.
🔹 Ng ve bir meslektaşı, OpenAI ve Anthropic’in önde gelen modelleri göreve yardım etmeyi reddedince, geçen ay yayımladıkları açık kaynaklı yapay zekâ aracısı OpenWorker’ın güvenlik incelemesi için Moonshot AI’ın Kimi K3 ve Zhipu AI’ın GLM-5.2 modellerini kullandı.
🔹 New York merkezli açık kaynaklı kod deposu Hugging Face, geçen ay OpenAI modellerinin siber saldırısına karşı savunma sağlamak için GLM-5.2’den yardım aldı.
🔹 OpenAI’ın GPT-5.6 ve Anthropic’in Fable 5 modellerindeki gelişmiş güvenlik önlemleri, zararlı faaliyetlere yardım etmeyi reddediyor; kullanıcılar bu önlemlerin siber güvenlik sistemlerini güçlendirmeye yönelik meşru talepleri de engellediğini söyledi.
🔹 OpenAI ve Anthropic, son haftalarda modellerinin başka şirketlere yönelik siber saldırılar gerçekleştirdiğini açıkladı.
🔹 Linux Foundation’ın eski küresel teknoloji yöneticisi Matt White, kapalı kaynaklı modellere bütünüyle güvenmenin kullanıcılar ve işletmeler için güvenlik riski oluşturduğunu söyledi. White, kapalı kaynaklı yapay zekânın yetenekleri, altyapıyı ve karar alma süreçlerini az sayıda kurumda yoğunlaştırabileceğini belirtti.
🔹 White, açık ağırlıklı modellerle ilgili güvenlik ve ulusal güvenlik endişelerinin gerçek ve meşru olduğunu da söyledi. Bu modellerdeki güvenlik önlemleri kapalı ağırlıklı modellere kıyasla daha kolay kaldırılabildiği için güçlü modeller siber saldırılar ve biyolojik silah geliştirme amacıyla kötüye kullanılabilir.
🔹 Anthropic CEO’su Dario Amodei, Çin’in açık ağırlıklı modellerinin ABD’de yasaklanmasını desteklemediğini, ancak bu modellerin “pandemi düzeyinde virüslerin” geliştirilmesini hızlandırabileceğini söyledi.
🔹 Andrew Ng, Anthropic’in açık kaynaklı yapay zekâ geliştirilmesine karşı çıkışını, şirketin pazar liderliğini korumayı amaçlayan bir “düzenleyici ele geçirme” biçimi olarak nitelendirdi. Anthropic, bu suçlamalara ilişkin yorum talebine hemen yanıt vermedi.
🔹 Kimi K3 gibi yeni Çin modellerinin otonom biçimde siber saldırı gerçekleştirebilmesi, açık ağırlıklı modellerin nasıl düzenleneceği konusunu gündeme taşıdı.
🔹 Washington’da bu hafta Google ve OpenAI gibi şirketlerle yetkililer arasında yeni bir öncü yapay zekâ düzenleme çerçevesinin ayrıntılarını görüşmek üzere toplantılar planlanıyor. Nihai çerçevenin ne zaman yayımlanacağı ve açık ağırlıklı modellere kısıtlama getirilip getirilmeyeceği belirsizliğini koruyor.
🔹 ABD merkezli açık ağırlıklı model üreticisi Thinking Machines, modellerin önce denetlenen küçük bir gruba, ardından kademeli olarak daha fazla kullanıcıya sunulmasını öngören bir çerçeve önerdi. White, açıklığın denetimsizlik anlamına gelmediğini söyledi.