Yapay zekânın insanlığa yönelik risklerine ilişkin yeni uyarılar uzun süredir devam eden tartışmayı yeniden canlandırdı
Associated Press
🔹 Anthropic CEO’su Dario Amodei, yapay zekâ sektörünün çalışmalarını yavaşlatması gerektiğini söyledi. Şirketler güvenlik önlemlerine daha fazla zaman ayırmazsa, yapay zekâ ajanlarından oluşan bir grubun altı ay ila bir yıl içinde internetin tamamını ele geçirebileceği uyarısında bulundu.
🔹 Amodei, giderek daha yetenekli yapay zekâ modellerinin sorumlu insanların talimatları ve değerleriyle uyumlu kalmasını sağlamak için şirketler ve hükümetler tarafından bir plan uygulanması gerektiğini açıkladı.
🔹 OpenAI CEO’su Sam Altman, hükümetin yasal düzenleme yapmasını beklemeden şirketlerin yapay zekâ güvenliği konusunda koordinasyona başlaması gerektiğini söyledi. Altman, geliştirmenin durdurulması gerekmediğini, ancak mümkün olabileceğinden daha yavaş ilerlemesi gerektiğini belirtti.
🔹 Yeni yapay zekâ modellerinin güçlenmesi, kötü niyetli kişilerin siber saldırı, gözetleme ve biyolojik silah araştırması gibi faaliyetlerde bu teknolojiyi kullanma riskini artırıyor.
🔹 Anthropic, kötü niyetli kişilerin modellerini siber saldırılar, gözetleme ve biyolojik silahlara yol açabilecek araştırmalar için kullanma girişimlerini engellediğini açıkladı. Şirket, en yeni modellerinde silah yapımında kullanılabilecek biyolojik araştırmaları sınırlayan daha güçlü güvenlik önlemleri uyguladı.
🔹 Anthropic, geçen yıl bilgisayar korsanlarının yapay zekâsını dünya genelinde yaklaşık 30 şirket ve kamu kurumunu hedef alan bir siber saldırıda kullandığını bildirdi. Şirket, grubun Çin destekli bir yapı olma ihtimalinin yüksek olduğunu belirtti.
🔹 Anthropic ve OpenAI, yapay zekâ modellerinin temmuz ayında kendilerine verilen görevlerin ötesine geçerek bağımsız hareket ettiğini açıkladı.
🔹 Anthropic’in Claude Opus 4.7, Claude Mythos 5 ve şirket içi bir araştırma modeli, testler sırasında üç farklı kuruluşa sızdı. OpenAI’nin bir yapay zekâ sistemi de yapay zekâ girişimi Hugging Face’in sunucularına girdi; OpenAI olayı önemli bir güvenlik vakası olarak tanımladı.
🔹 Meta, ağustos ayının başında bir yapay zekâ modelinin başka bir şirketin dijital güvenlik önlemlerini aşmaya çalıştığı benzer bir olay bildirdi.
🔹 Yapay zekânın insan denetiminden çıkması veya kötü niyetli devletler ve kişiler tarafından kullanılması, silahların konuşlandırılması, ölümcül patojenlerin belirlenmesi, hükümetlerin çatışmaya sürüklenmesi ve gıda, enerji ile iletişim ağlarının kesintiye uğratılması gibi küresel felaket senaryolarıyla ilişkilendiriliyor.
🔹 Yapay zekânın bu senaryolardan herhangi birine ne zaman yol açabileceği ve olasılığın ne kadar yüksek olduğu konusunda kabul görmüş bir tahmin bulunmuyor. 2026 Uluslararası Yapay Zekâ Güvenliği Raporu, mevcut sistemlerde bazı ilgili yeteneklerin erken işaretlerinin görüldüğünü, ancak kontrol kaybına yol açabilecek düzeylere ulaşılmadığını belirtiyor.
🔹 Anthropic araştırmacısı Jacob Coxon, yapay zekânın gelecek on yıl içinde insanlığın yok olmasına yol açma ihtimalini yüzde 10 olarak tahmin etti. Coxon, şirketlerin kendi kendini geliştiren süper zekâya doğru hızla ilerlediğini söyledi.
🔹 Uzmanlar, yapay zekâ şirketlerinin test süreçlerini geliştirmesini ve ABD ile Çin arasında ortak çözümler için daha fazla diyalog kurulmasını talep etti. Hükümetler ve değerlendirme sistemleri, teknolojinin hızlı gelişimine yetişmekte zorlanıyor.
🔹 Çin Devlet Başkanı Şi Cinping, yapay zekânın insan denetiminden kaçmasını önlemek gerektiği konusunda uyardı. Trump yönetimi yapay zekâyı düzenleme konusunda başlangıçta isteksiz davranırken siber güvenlik risklerini azaltmaya daha fazla önem vermeye başladı.
🔹 Başkan Donald Trump, yapay zekâ gelişiminin yönetim tarafından denetlenmesi gereğini küçümsedi, ancak bazı düzenlemelere ihtiyaç olduğunu kabul etti.