Silikon Vadisi'nde Anthropic'e karşı tepki büyüyor
Wall Street Journal
🔹 Anthropic'in mevcut yazılım sağlayıcılarıyla rekabet eden ürünler piyasaya sürmesi ve kapalı bir yapay zekâ ekosistemini desteklemesi, Silikon Vadisi'nde şirket kurucuları, yazılım yöneticileri ve yapay zekâ araştırmacıları arasında güvensizlik yaratıyor.
🔹 Bazı girişimciler ve araştırmacılar, Anthropic'in daha ucuz yapay zekâ modellerine yönelmelerine yol açan rekabetçi ürün lansmanlarından birinin nisan ayında piyasaya çıkan Claude Design olduğunu söyledi. Claude Design, Anthropic'in ortaklarından Figma'nın ürünlerine doğrudan rakip olarak görüldü.
🔹 Figma CEO'su Dylan Field, Anthropic'in iletişiminde tutarlı biçimde açık olmadığını söyledi. Notion'un yapay zekâ başkanı Sarah Sachs, şirketlerin Anthropic'e fazla güvendiğini belirtti.
🔹 Anthropic, veri saklama politikalarındaki değişiklikler ve yapay zekâ araştırmalarıyla ilgili soruları yanıtlamayan güçlü bir model yayımlaması nedeniyle eleştirildi. Bazı araştırmacılar, yapay zekâ sistemlerinde daha fazla şeffaflık talep etti.
🔹 Anthropic CEO'su Dario Amodei, açık ağırlıklı yapay zekâ sistemlerinin güvenlik risklerine karşı defalarca uyarıda bulundu. Bu modeller daha ucuz olabiliyor ve kullanıcıların modeli özelleştirerek kendi güvenlik önlemlerini kurmasına izin veriyor; Çin'de üretilen bazı modeller son aylarda ABD'nin öncü yapay zekâ sistemlerine yaklaşan yetenekleriyle dikkat çekti.
🔹 Columbia Üniversitesi mühendislik fakültesinden Vishal Misra, Anthropic'in ürünlerini başarılı bulduğunu ancak şirketin yapay zekâ güvenliği ve riskleriyle ilgili bazı açıklamalarının incelemeye dayanmadığını söyledi. Anthropic sözcüsü, şirketin önlemlerini modelleri güvenli tutmak ve düşmanların ciddi riskler yaratmasını önlemek için gerekli gördüğünü açıkladı.
🔹 Dario Amodei, Nvidia ve Microsoft'un da aralarında bulunduğu şirketlerin açık modelleri destekleyen mektubu imzalamasının ardından Anthropic'in açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadığını söyledi. Amodei, tehlikeli yetenekleri bulunmayan açık ağırlıklı modelleri kamu yararı olarak nitelendirdi.
🔹 Anthropic ve OpenAI, bazı Çinli model üreticilerini, bir modeli milyonlarca kez sorgulayarak yanıtları başka bir modeli eğitmek için kullanılması anlamına gelen distilasyon yöntemiyle teknolojilerini kopyalamakla suçladı. Amodei, politika yapıcılardan sanayi ölçeğinde distilasyona karşı önlem almalarını istedi.
🔹 Trump yönetimi, Çinli şirketleri ABD'li birçok işletmenin bu modelleri kullanmasını fiilen engelleyecek bir ticaret kara listesine eklemeyi değerlendiriyor. Anthropic'in eleştirmenleri, şirketin açık ağırlıklı modellere yönelik uyarılarının rakiplerini sınırlama çabasının parçası olabileceğini ve şirketin sonbahar gibi halka arz planının bu modeller tarafından gelir hedeflerini zayıflatabileceğini söylüyor.
🔹 OpenAI ve Google, açık ağırlıklı modelleri destekleyen mektuba imza attı; mektuba 70'ten fazla Silikon Vadisi şirketi katıldı. Anthropic, öne çıkan yapay zekâ şirketleri arasında mektubu desteklemeyen az sayıdaki şirketten biri oldu.
🔹 Anthropic'in haziranda yayımladığı, Mythos modelinin güvenlik kısıtlamaları getirilen sürümü Fable 5, başlangıçta kullanıcıları bilgilendirmeden yapay zekâ geliştirmeyle ilgili bazı sorulara verilen yanıtları kısıtladı. Araştırma topluluğu bu gizli güvenlik önlemlerini eleştirdi; Anthropic özür dileyerek önlemleri görünür hâle getirdi ancak işaretlenen talepleri yine de reddedeceğini açıkladı.
🔹 Fable 5, kullanıcı verilerinin 30 gün boyunca güven ve güvenlik amacıyla saklanmasını gerektirdiği için sıfır veri saklama seçeneğini desteklemedi. Hassas verilerle çalışan şirketler bu değişikliğe karşı çıktı; Anthropic ise çalışanlarının saklanan konuşmaları okuyamadığını ve verilerin yeni modelleri eğitmek için kullanılmayacağını açıkladı.
🔹 Teknoloji uzmanları ve politika yapıcılar, yapay zekâ yarışının Anthropic ile OpenAI'nin pazarı kontrol ettiği bir ikili hâkimiyete dönüşmesinden endişe ediyor. San Francisco'da düzenlenen açık ağırlıklı modeller yanlısı protestoda katılımcılar açık kaynaklı ve yerel yapay zekânın yaygınlaştırılmasını talep etti.