Anthropic, yavaşlama çağrılarına rağmen yapay zekâ geliştirmesini hızla artırıyor
Associated Press
🔹 Anthropic, yapay zekâ sistemlerini bir yıl öncesine kıyasla yaklaşık iki kat daha hızlı geliştiriyor.
🔹 Berkeley merkezli kâr amacı gütmeyen Model Evaluation and Threat Research (METR), şirketin iç verilerini inceleyip çalışanlarla görüştü.
🔹 Anthropic, bu ay içinde halka açılmayı planlıyor; işlem şimdiye kadarki en büyük ilk halka arz olabilir.
🔹 METR, Anthropic’in belirli ve iyi tanımlanmış görevlerdeki model yeteneklerini geliştirme hızının bir yılda yaklaşık iki katına çıktığını tahmin etti.
🔹 Araştırmacılar, hızlanmanın önemli bölümünün yapay zekânın yapay zekâyı geliştirmeye yardım etmesinden kaynaklandığını belirledi.
🔹 Anthropic, Claude sohbet botunun daha yeni ve gelişmiş model sürümlerinin geliştirilmesine giderek daha fazla katkı sağladığını açıkladı.
🔹 METR, yapay zekâ modellerinin eğitiminde kullanılan işlem gücündeki artışı hızlanmanın nedeni olmaktan güvenle dışladı; araştırmacılar ilerlemenin yapay zekânın kendisini geliştirmek için kullanılmasına bağlı olabileceğini değerlendirdi.
🔹 Araştırmacılar, işlem gücü veya veri kısıtlamaları gibi yapay zekâ ilerlemesini engelleyen darboğazlar bulmadı.
🔹 METR, hızlanmanın yalnızca iyi tanımlanmış görevlerle sınırlı olabileceği ve bulgularını olduğundan yüksek göstermiş olabileceği uyarısında bulundu.
🔹 Anthropic CEO’su Dario Amodei, yapay zekâ modellerinin yeteneklerini geliştirme hızının yavaşlatılması çağrısı yaptı ve güvenlik önlemlerinin gelişmelere yetişmesi gerektiğini söyledi.
🔹 Anthropic kurucu ortağı Sam McCandlish, yapay zekânın araştırmaları hızlandırdığını ancak hızlanmanın miktarını kesin olarak belirlemenin zor olduğunu söyledi.
🔹 METR, Anthropic’in kamuya açık risk raporunun yaşanan hızlanma düzeyini genel olarak olduğundan düşük gösterdiğini açıkladı. Anthropic’in rapordaki sansürlemeleri, hızlanmaya ilişkin ayrıntılı tahminlerin paylaşılmasını sınırladı.
🔹 METR, Anthropic araştırmacılarında yapay zekânın model eğitiminin önemli bölümlerine yakın zamanda tamamen özerk ve anlamlı katkılar sunabileceğine işaret eden belirtiler bulunduğunu açıkladı.
🔹 Amodei, özyinelemeli öz-gelişim kavramını yapay zekânın bir sonraki yapay zekâ neslini geliştirme kapasitesinin artması olarak tanımladı.
🔹 Amodei, önde gelen yapay zekâ laboratuvarlarında bağımsız değerlendiricilerin çalışan benzeri erişimle görev yapmasını destekledi; OpenAI CEO’su Sam Altman da bu fikri desteklediğini söyledi.


