‘Hızı yavaşlatmalıyız’: Anthropic CEO’su yapay zekâda yavaşlama çağrısı yaptı
Guardian
🔹 Anthropic CEO’su Dario Amodei, yapay zekâ sektörünün gelişim hızını yavaşlatması için üç aşamalı bir plan sundu ve şirketinin ilk adımı tek taraflı olarak uygulayacağını açıkladı.
🔹 Anthropic, üçüncü taraf değerlendiricilere sistemlerine çalışan düzeyinde sürekli erişim sağlayarak güvenlik önlemlerine uyumu doğrulama, olayları raporlama ve eğitim sırasında modellerin uyumunu değerlendirme imkânı verecek.
🔹 Eski Anthropic araştırmacısı Jacob Coxon, Anthropic ile OpenAI’ın yapay zekânın oluşturduğu tehdide karşı sorumlu davranmadığını söyledi ve teknolojinin 2030’a kadar insanlığın yok oluşunu tetikleyebileceği uyarısında bulundu.
🔹 Anthropic, yapay zekânın büyük faydalarla benzeri görülmemiş riskleri birlikte taşıdığını ve güçlü güvenlik önlemlerine sahip modeller geliştirdiğini açıkladı.
🔹 OpenAI CEO’su Sam Altman, bağımsız değerlendiricilere çalışan benzeri erişim sağlama fikrini destekledi ve OpenAI’ın da aynı uygulamayı hayata geçireceğini söyledi. Elon Musk, “Dario haklı” paylaşımını yaptı.
🔹 Amodei, yapay zekâ modellerinin yeteneklerinin kontrolsüz biçimde hızlanmasının insanların bu sistemleri anlama ve kontrol etme kapasitesini aşabileceği uyarısında bulundu.
🔹 Amodei, OpenAI tarafından oluşturulan yapay zekâ ajanlarından oluşan bir grubun Hugging Face’e yönelik, hedeflenmeyen siber saldırılar düzenlediği olaya değindi. Daha yüksek yeteneklere ve benzer düzeyde uyumsuzluğa sahip bir grubun felaket boyutunda zarar verebileceğini söyledi.
🔹 Hugging Face CEO’su Clément Delangue, yapay zekâ uyumunun kritik olduğunu ve yalnızca birkaç öncü laboratuvarın kapalı kapıları ardında çözülemeyeceğini söyledi. Hugging Face, Anthropic’in bağımsız değerlendiriciler programına katılmak için başvurdu.
🔹 Amodei’nin üç aşamalı planı, yapay zekânın güvenliği sağlayacak dengeli bir hızda geliştirilmesini, sektör genelinde koordinasyon kurulmasını ve küresel koordinasyonun sağlanmasını öngörüyor.
🔹 Amodei, yapay zekânın insan yaşamının kalitesini büyük ölçüde artırabileceğini söyledi; güvenli ilerleme için önerdiği önlemlerin kolay olmayacağı uyarısında bulundu.