Herkesin konuştuğu Anthropic hakkındaki büyük yapay zekâ raporundan 3 çıkarım
Business Insider
🔹 METR araştırmacıları, Anthropic'in iç verilerine yaklaşık üç ay boyunca erişim sağladı; çalışanlarla görüştü, Slack kanallarındaki anketleri inceledi ve yayımlanmamış yapay zekâ modellerine ilişkin verileri analiz etti.
🔹 Anthropic son altı ayda kamuya açılmamış üç modelin eğitimini tamamladı. Bu modellerden biri 2022'de, diğerleri ise temmuz, ağustos-eylül ve eylül-ekim dönemlerinde tamamlandı.
🔹 Anthropic ve OpenAI, en gelişmiş yapay zekâ modellerini kamuya satarken bazı modelleri içeride tutuyor. İç modellerin korunması, ürün ve araştırma ekiplerine rekabet avantajı sağlıyor; güvenlik kaygıları modellerin daha uzun süre gizli tutulmasına yol açabilir.
🔹 Anthropic çalışanları, şirket içi en yetenekli modelin üretkenliklerini ortalama yaklaşık 12 kat artırdığını bildirdi. METR, Slack anketlerinin tüm çalışanları temsil etmeyebileceği ve yanıtların sınırlı kanıt niteliğinde olduğu uyarısını yaptı.
🔹 Anthropic araştırmacıları, Claude'un çalışmalarını önemli ölçüde hızlandırdığını söyledi. Bir araştırmacı, artık kod yazma kapasitesinin değil, fikir ve hesaplama gücünün darboğaz oluşturduğunu belirtti ve üretkenliğinin en az iki katına çıktığını söyledi.

🔹 METR, ilerlemenin gelecek yıl daha da hızlanmasını engelleyecek gözlemlenebilir darboğazlar tespit etmedi. Araştırma grubu, önemli darboğazların gözden kaçırılmış olabileceğini belirterek daha hızlı bir ivmelenme riskine dikkat çekti.
🔹 Anthropic mühendisleri, denetim ve eğitim sorumluluklarının daha büyük bölümünü diğer yapay zekâ modellerine devrediyor. Özyinelemeli kendini geliştirme olarak adlandırılan bu süreç, geliştirme hızını artırıyor.
🔹 METR, Anthropic'in son bir yılda yaklaşık iki yıllık tarihsel ilerleme kaydettiğini hesapladı. Araştırma ve geliştirmedeki hızlanma ağırlıklı olarak yapay zekâ desteğiyle gerçekleşirken tamamen otonom katkıların yakında daha büyük rol oynayabileceği belirtildi.
🔹 Eski Anthropic araştırmacısı Jacob Coxon, özyinelemeli kendini geliştirmenin yapay zekâ sistemlerinin kontrolden çıkmasına yol açabileceğini söyledi. Coxon, OpenAI ve Anthropic'in kendini geliştiren süperzekâya doğru ilerlediğini ve bunun insan hayatını riske attığını söyledi.

