Anthropic, yapay zekânın yakında insan müdahalesi olmadan kendini geliştirebileceği uyarısında bulundu
CNN
🔹 Anthropic, yapay zekâ modellerinin çok hızlı geliştiğini ve yakında insan müdahalesi olmadan kendi kendilerini geliştirebilecek seviyeye ulaşabileceğini savundu.
🔹 Anthropic Institute Başkanı Marina Favaro ve Anthropic kurucu ortaklarından Jack Clark, tam özyinelemeli kendini geliştiren yapay zekâ sistemlerinin bilim ve sağlık alanında büyük faydalar sağlayabileceğini ancak insanlık için ciddi riskler de oluşturabileceğini yazdı.
🔹 İnsanların yapay zekâ sistemleri üzerindeki kontrolünü kaybetme riski, sistemlerin kendi haleflerini tamamen geliştirebilmesi durumunda artabilir.
🔹 Anthropic, teknoloji şirketlerinin kendi kendini geliştiren yapay zekânın toplumsal etkilerinin daha iyi anlaşılabilmesi için ileri düzey yapay zekâ geliştirme çalışmalarını yavaşlatmayı veya durdurmayı değerlendirebileceğini savundu.
🔹 Araştırmacılar, yapay zekâ sistemlerinin kontrolden çıkması durumunda insanların müdahale edebilmesini sağlayacak mekanizmalar geliştirebilir.
🔹 Jack Clark, yapay zekâ sektörünün bir "fren pedalı" geliştirmesi gerektiğini söyledi ve mevcut durumda yalnızca gelişimi hızlandıran araçlara sahip olduklarını ifade etti.
🔹 Jack Clark, yapay zekâ davranışlarının doğrulanamaması, denetlenememesi ve güvenilirliğinin sağlanamamasının geliştirme sürecindeki en büyük risklerden biri olduğunu söyledi.
🔹 Anthropic halka arz başvurusu yaptı ve yapay zekâ altyapısını hızlandırmak için yatırımcılardan on milyarlarca dolar toplamayı hedefliyor.
🔹 Jack Clark, yapay zekâ şirketlerinin güvenlik önlemleri geliştirmek için birlikte çalışabileceğini savundu ve Soğuk Savaş döneminde nükleer silah yarışını sınırlamaya yönelik uluslararası iş birliklerini örnek gösterdi.