🔹 Anthropic’in ABD Menkul Kıymetler ve Borsa Komisyonu’na sunduğu halka arz dosyasında, yapay zekâ ürünlerinin insanlık için tehdit oluşturabileceği ihtimali yatırımcı riskleri arasında yer aldı.
🔹 Şirketin 335 sayfalık dosyasının 93 sayfası, yatırımcıların yatırımlarına zarar verebilecek risk faktörlerine ayrıldı. SpaceX’in dosyasında bu bölüm 250’den fazla sayfanın 38’ini oluşturdu.
🔹 Anthropic, kötü niyetli kişilerin yapay zekâ modellerini ölümcül silahlar geliştirmek için kullanabileceğini ve teknolojinin kontrolden çıkarak öngörülemeyen sonuçlara yol açabileceğini bildirdi.
🔹 Şirket, modellerin güvenlik önlemleri uygulanamayacak kadar hızlı gelişebileceğini, bunun güvenlik olaylarını, düzenleyici müdahaleyi veya itibar zararını artırabileceğini açıkladı.
🔹 Anthropic CEO’su Dario Amodei, altı ila 12 ay içinde yapay zekânın internetin tamamını ele geçirebilecek bir ajanlar sürüsünü yönetebilecek kapasiteye ulaşabileceği uyarısını yaptı.
🔹 Yapay zekâ sistemleri daha özerk hale geldikçe, insan müdahalesi olmadan ve geniş ölçekte zararlı eylemler gerçekleştirebilir.
🔹 Gelişmiş yapay zekâ sistemleri yeterli güvenlik önlemleri ve denetim olmadan kötüye kullanılır, çoğaltılır, silahlandırılır veya yüksek özerklikle çalıştırılırsa insanlık için felaket niteliğinde ya da varoluşsal riskler oluşturabilir.
🔹 Anthropic, kötü niyetli kişilerin kimyasal silah geliştirmek için yapay zekâ kullanabileceğini ve otoriter yönetimlerin teknolojiyi vatandaşlara yönelik baskıyı artırmak amacıyla kullanabileceğini belirtti.
🔹 Şirket, eylül ayında yapay zekâ modellerinin siber saldırılar, gözetim ve biyolojik silah geliştirmeye katkı sağlayabilecek araştırmalar için kullanılmasına yönelik girişimleri engellediğini duyurdu.
🔹 Yapay zekâ modellerinin eğitimi, test edilmesi ve geliştirilmesi için gereken işlem gücü pahalı ve yüksek talep görüyor. Anthropic, yeterli işlem gücü sağlayamazsa rakipleriyle rekabet edebilecek modeller geliştiremeyebileceğini bildirdi.
🔹 Veri merkezlerinin çevresel etkileri, arazi ve su kullanımı ile sınırlı enerji kaynaklarının dağıtımı kamuoyu tartışmalarına ve düzenleyici incelemelere yol açabilir; yeni yükümlülükler veya ücretler şirketin faaliyetlerini olumsuz etkileyebilir.
🔹 Anthropic gelirlerinin önemli bir bölümünde SpaceX ve Microsoft gibi az sayıdaki müşteriye ve dağıtım kanalına dayanıyor. Büyük müşterilerden birinin alımlarını azaltması veya şirketle çalışmayı bırakması, Anthropic’in mali durumunu ve beklentilerini olumsuz etkileyebilir.
🔹 Anthropic, yapay zekânın güvenli ve sorumlu biçimde yayılması için öncü yapay zekâ şirketlerinin güvenlik ve uyum çalışmalarına yatırım yapması gerektiğini açıkladı.
🔹 Zacks Investment Management baş piyasa stratejisti Brian Mulberry, halka arzlarda yatırımcıların karşılaşacağı risklerin açık biçimde gösterilmesi gerektiğini söyledi.