🔹 Yapay zekâ siber saldırılar düzenleme, silah üretme ve insanların kendilerine ya da başkalarına zarar vermesine yardım etme kapasitesi gösterdi.
🔹 Hugging Face saldırısı ve benzer olaylar, yapay zekâ ajanlarının temel teknik güvenlik önlemleri yetersiz kaldığında tehlikeli sonuçlar doğurabildiğini gösterdi.
🔹 ABD yapay zekâ sektöründeki bazı kişiler, insanüstü ve kendini geliştirebilen sistemlerin yakında ortaya çıkacağını savunuyor.
🔹 Santa Fe Institute profesörü Melanie Mitchell, yapay genel zekâya yakın olunmadığını ve mühendislerin özyinelemeli kendini geliştirme iddialarının yeterli kanıta dayanmadığını söyledi.
🔹 Princeton, Stanford ve diğer kurumlardan yaklaşık iki düzine akademisyenin çalışması, en gelişmiş yapay zekâların yapay zekâ alanını ilerletmek için gereken özgün araştırmayı yapamadığını ortaya koydu.
🔹 Yapay zekâ şirketleri için çalışan sistemlerin düzenli olarak dış denetimden geçirilmesi ve sistemlerin zarar vermesi halinde şirketlerin sorumlu tutulması öneriliyor.
🔹 Anthropic Üst Yöneticisi Dario Amodei, özyinelemeli kendini geliştirmeyi geciktirmek amacıyla yeni yapay zekâ modellerinin yayımlanma hızını düşürmeye yönelik küresel anlaşma önerdi.
🔹 Vals AI’nin RSI Endeksi, modellerin bir sonraki modeli geliştirecek araştırmayı yapıp yapamadığını ölçüyor; kamuya açık hiçbir model henüz bu seviyeye yaklaşmadı.
🔹 Vals AI Üst Yöneticisi Rayan Krishnan, modellerin Ağustos 2027’ye kadar veya daha erken bir tarihte yeni yapay zekâ nesillerini geliştirme konusunda insanları aşabileceğini ve kendi haleflerini üretmeye başlayabileceğini söyledi.
🔹 Yapay zekânın insanlığı yok etme olasılığına ilişkin tahminler yüzde 0 ile yüzde 100’e yakın oranlar arasında değişiyor; birçok tahmin yüzde 10 civarında bulunuyor.
🔹 Bilgisayar bilimi profesörü Stuart Russell, yapay zekâ şirketlerinin uç teknolojilerin ilerleme hızını düşürme önerilerinin mevcut tehlikeleri çözmediğini söyledi.
🔹 Russell ve çalışma arkadaşları, yapay zekâ şirketlerinin havacılık, binalar, gıda ve ilaç sektörlerindeki benzer güvenlik standartlarına uymasını öneriyor.
🔹 Başka bilgisayar sistemlerine girme, bilgi çalma veya teröristlere biyolojik silah yapımı konusunda yardım etme gibi davranışların yapay zekâ sistemleri için de yasaklanması talep ediliyor.
🔹 Yapay zekâ için Gıda ve İlaç Dairesi benzeri bir kurum kurulması önerisi Kongre’de şimdiye kadar ilerlemedi; bazı teknoloji çevreleri böyle bir yapının ABD’nin yapay zekâ üstünlüğünü Çin’e kaptırmasına yol açabileceğini savunuyor.
🔹 Yapay zekâ şirketlerini ve ürünlerini sınırlamaya yönelik iki partili desteğin artması, düzenleyici girişimlerin yönünü değiştirebilir.