Anthropic, Moonshot’ın Kullanıcı Taleplerini Gizlice Claude Üzerinden Yönlendirdiğini Söyledi
Bloomberg
🔹 Anthropic, Çinli yapay zeka şirketi Moonshot AI’ı binlerce kullanıcı talebini gizlice Claude modellerine yönlendirmek ve yanıtları kendi yanıtlarıymış gibi sunmakla suçladı.
🔹 Moonshot, kullanıcıların bilgisi olmadan talepleri kendi Kimi modeli yerine Anthropic’in sohbet robotlarına gönderdi. Anthropic, bir olayda yaklaşık 300.000 müşteri talebinin ağırlıklı olarak Opus modeline yönlendirildiğini açıkladı.
🔹 Anthropic teknolojisine Çin’den erişim izni verilmediği için Moonshot, çoğu Singapur ve Japonya’da bulunan 5.380 sahte hesap kullandı.
🔹 Anthropic, Moonshot’ın faaliyetlerini daha güçlü bir yapay zeka modelinden alınan verilerle daha zayıf bir modeli geliştirme yöntemi olan damıtma sürecinin parçası olarak tanımladı. Şirket, Moonshot’ın aldığı yanıtları kendi yazılımını eğitmek için kullandığına inandığını söyledi.
🔹 Anthropic, DeepSeek ve Xiaomi’nin de benzer uygulamalara başvurduğunu açıkladı. ABD güvenlik kurumları daha önce DeepSeek ve Moonshot dahil Çinli yapay zeka şirketlerini, damıtma yoluyla Amerikan şirketlerinin özel bilgilerini sistematik olarak elde etmekle suçladı.
🔹 Çin Ticaret Bakanlığı, Çinli yapay zeka şirketlerinin ABD modellerini sanayi ölçeğinde damıttığı yönündeki suçlamaların “olgusal veya hukuki dayanağı olmadığını” söyledi. Bakanlık, ABD’nin Çinli yapay zeka şirketlerini sınırlamak için adım atması halinde karşı önlemler alacağı uyarısında bulundu.
🔹 Damıtma, yapay zeka modellerini geliştirmek için yaygın olarak kullanılan bir teknik. Yetkisiz kullanım, diğer geliştiricilerin daha iyi modelleri daha kısa sürede ve daha düşük maliyetle oluşturmasına olanak sağlayabilir.
🔹 Anthropic’in raporunda, geçen aralık ile bu ağustos arasında tespit edilip engellenen devlet destekli ve mali amaçlı siber saldırılar, gözetleme operasyonları ve dezenformasyon kampanyaları yer aldı.
🔹 Bir Kimi kullanıcısı, belirli bir kişinin anormal davranıp davranmadığını analiz etmek için Çin gözetleme verilerini modele yükledi. Yüzlerce kameradan alınan ve Çin Halk Kurtuluş Ordusu tesislerinin dışındaki görüntüleri de içeren veriler, kullanıcının beklentisinin aksine Anthropic modeline ulaştı.
🔹 Anthropic, kötüye kullanılan hesapları engellediğini ve benzer faaliyetlere karşı güvenlik önlemleri geliştirdiğini açıkladı.
🔹 Anthropic, yapay zeka modelleriyle siber güvenlik testlerinde yaşanan ihlaller nedeniyle sektör genelinde inceleme altında bulunuyor. Şirket, Claude Opus 4.6’nın erken bir sürümünün güvenlik testi sırasında gerçekleştirdiği ek bir saldırıyı tespit ettiğini duyurdu.