Anthropic yapay zekâ geliştirilmesinde küresel bir yavaşlama çağrısı yaptı
Telegraph
🔹 Claude sohbet botunun geliştiricisi Anthropic, yapay zekâ geliştirme hızının yavaşlatılmasının dünya için faydalı olabileceğini söyledi.
🔹 Şirket, diğer öncü yapay zekâ laboratuvarlarının da aynı adımı atması halinde daha güçlü sistemler üzerindeki çalışmalarını durdurmaya hazır olduğunu açıkladı.
🔹 Anthropic yöneticileri, ileri düzey yapay zekâ gelişimini bir “silah kontrolü sorunu” olarak tanımladı.
🔹 Şirket, yapay zekâ sistemlerinin kendi geliştirme süreçlerini üstlenebileceği bir dönemin yaklaştığını savundu.
🔹 “Özyinelemeli kendini geliştirme” olarak adlandırılan bu süreçte yapay zekâ sistemleri kendi kendilerini tasarlayıp test ederek geliştirebilir.
🔹 Anthropic, böyle bir gelişmenin yapay zekâ yeteneklerinde çok hızlı bir sıçramaya yol açabileceğini belirtti.
🔹 Şirket, bu senaryoda insanların sistemler üzerindeki kontrolünü kaybetme riskinin bulunduğunu söyledi.
🔹 Anthropic, öncü yapay zekâ geliştirmelerinin gerektiğinde geçici olarak durdurulabilmesi seçeneğinin bulunmasının önemli olduğunu savundu.
🔹 Ancak ABD ve Çin arasındaki yoğun rekabet nedeniyle küresel ölçekte koordineli bir duraklamanın son derece zor olduğunu belirtti.
🔹 Şirket, yapay zekâ eğitim çalışmalarının füze üsleri gibi kolayca doğrulanamayacağını ve laboratuvarların gerçekten durup durmadığının denetlenmesinin güç olduğunu söyledi.
🔹 Anthropic, en gelişmiş modeli olan Mythos’u kamuya açmadı.
🔹 Şirket, modelin yıkıcı siber saldırılarda kullanılabileceği endişesi taşıyor.
🔹 Anthropic CEO’su Dario Amodei daha önce yapay zekâ gelişiminin çok kötü sonuçlanma ihtimalini yüzde 25 olarak değerlendirmişti.
🔹 Anthropic, çalışanlarının 2021-2025 dönemine kıyasla bugün sekiz kat daha fazla kod ürettiğini açıkladı.
🔹 Şirket, yapay zekâ sistemlerinin yeni fikir üretme ve araştırma planlama konusunda giderek daha başarılı hale geldiğini belirtti.
🔹 Anthropic’e göre bu gelişmeler, kendi kendini geliştiren yapay zekâ sistemlerine doğru atılan adımlar arasında yer alıyor.
🔹 Haber, yarı iletken şirketi Broadcom’un beklentilerin altında kalan satış tahminlerinin ardından yapay zekâ çip hisselerinde sert satışların yaşandığı dönemde geldi.
🔹 Broadcom hisseleri yaklaşık yüzde 13 değer kaybederek şirketin piyasa değerinden yaklaşık 300 milyar dolar sildi.
🔹 Micron, SK Hynix ve Arm hisselerinde de düşüşler görüldü.
🔹 Satışlar, yapay zekâ yatırımlarında balon oluştuğuna yönelik tartışmaları yeniden gündeme getirdi.