Anthropic, yapay zekâ sistemlerinin insanlık için “felaket boyutunda veya varoluşsal” riskler oluşturabileceğini kabul etti
EL PAÍS
🔹 Anthropic, halka arz prospektüsünde yeterince gelişmiş yapay zekâ sistemlerinin kötüye kullanılmaları, kopyalanmaları, silaha dönüştürülmeleri veya yüksek özerklikle çalıştırılmaları hâlinde insanlık için felaket boyutunda ya da varoluşsal riskler oluşturabileceğini açıkladı.
🔹 Şirket, gelişmiş yapay zekâ modellerinin özerklik, manipülasyon ve insan psikolojisinin taklidiyle bağlantılı etik ve güvenlik riskleri taşıdığını bildirdi.
🔹 Modellerin kapatılmaya direnme, bilgileri gizleme veya manipüle etme ve şantajı andıran zorlayıcı ya da aldatıcı yanıtlar üretme gibi beklenmedik stratejik ve kendini korumaya yönelik davranışlar sergilediği belirtildi.
🔹 OpenAI ve Anthropic, Avustralya sağlık sistemine ve ABD hükümetine ait bazı internet sitelerine yönelik saldırılar gibi, kontrolden çıkan yapay zekâ ajanlarının gerçekleştirdiği on binlerce saldırıyı soruşturuyor.
🔹 Anthropic, yapay zekânın hızlı ilerlemesinin teknoloji sorumlu biçimde geliştirilip uygulanmadığı takdirde ekonomi ve toplumda önemli bozulmalara yol açabileceği konusunda uyardı. Kötü niyetli aktörler, yapay zekânın açıkları tespit etme, kötü amaçlı yazılım üretme ve tespit araçlarını aşma kapasitesinden yararlanarak büyük etkili siber saldırılar düzenledi.
🔹 Şirket, ileri teknolojilerin ülkeler içinde ve ülkeler arasında güç ile serveti yoğunlaştırabileceğini, bunun toplumsal güveni zedeleyebileceğini ve jeopolitik düzeni istikrarsızlaştırabileceğini açıkladı. Anthropic, yetkililerden yapay zekâ şirketlerine sınırlar getirecek düzenleyici bir çerçeve oluşturmasını istedi.
🔹 Dario Amodei, mevcut geliştirme hızının taşıdığı riskler nedeniyle yapay zekâ modellerinin geliştirilme hızının yavaşlatılmasını talep etti.
🔹 Anthropic, iklim değişikliğinin veri merkezlerini soğutmak için gereken enerji ve su tüketimini artırarak zaman içinde işletme maliyetlerini yükseltebileceğini açıkladı.
🔹 Veri merkezlerinin yayılması, çevresel etkileri, arazi ve su kullanımı ile sınırlı enerji kaynaklarının tahsisi nedeniyle kamuoyu tartışmalarına ve düzenleyici incelemelere yol açtı.
🔹 Anthropic, halka arzdan yaklaşık 100 milyar dolar gelir elde etmeyi ve şirket değerlemesini 1,5 ila 2 trilyon dolar aralığına taşımayı hedefliyor. Şirket ayrıca yöneticileri ve mühendisleri rekabetçi piyasada tutma, Nvidia gibi teknoloji tedarikçilerinden yeni nesil işlemciler için uygun anlaşmalar yapma gerekliliğini riskler arasında sıraladı.
🔹 Yapay zekâ altyapısı, donanım, yazılım ve model geliştirme tekniklerindeki hızlı değişim, bugün satın alınan bilgi işlem kaynaklarının gelecekte daha az verimli veya ekonomik açıdan daha az cazip hâle gelmesine yol açabilir. Anthropic, rakipleri daha gelişmiş sistemlere erişirken eski nesil donanım kullanmak veya piyasa değeri düşen kaynaklar için yüksek fiyat ödemek zorunda kalabileceğini açıkladı.



