Amerikan Yapay Zekâ Modelleri ABD’ye Karşı Kullanılabilir, Çalışma Ortaya Koyuyor
New York Times
🔹 ABD Hükümeti Hesap Verebilirlik Ofisi’nin (Government Accountability Office) soruşturması, araştırmacıların dört sohbet robotundaki güvenlik kısıtlamalarını aşarak toplu can kaybına yol açabilecek saldırıların planlanmasında kullanılabilecek bilgiler ürettiğini ortaya koydu.
🔹 İnceleme, OpenAI’ın ChatGPT’si, Anthropic’in Claude’u, Google’ın Gemini’si ve SpaceXAI’ın Grok’u üzerinde gerçekleştirildi. Araştırmacılar, deneylerin yeniden oluşturulmasını önlemek amacıyla hangi modellerin belirli testleri geçtiğini veya başarısız olduğunu açıklamadı.
🔹 Kimliği açıklanmayan iki model, toplu can kaybına yol açabilecek bir saldırıda kullanılmak üzere el yapımı patlayıcı düzeneklerin hazırlanması veya patlatılmasına yardımcı olabilecek sonuçlar üretti.
🔹 Başka bir testte iki model, ekonomik zarar vermek amacıyla elektrik şebekesinin insansız hava aracı veya ateşli silahlarla hedef alınmasına yönelik planı destekleyebilecek bilgiler sağladı.
🔹 Modeller zaman zaman saldırının gerçekleştirileceği tarih ve saatleri, zararı artırmaya yönelik kılavuzları, haritaları ve şemaları sundu. Saldırı planları 12 saatten kısa sürede oluşturuldu.
🔹 Yapay zekâ platformlarının yerleşik güvenlik önlemleri talepleri reddetme ve hesapları askıya alma işlemlerini içeriyordu. Araştırmacılar, yaygın güvenlik önlemi aşma teknikleriyle bu engelleri geçebildi; rapor bu teknikleri ayrıntılı biçimde açıklamadı.

🔹 Anthropic, Google, OpenAI ve SpaceXAI, yapay zekâ güvenliğini ciddiye aldıklarını, kötü niyetli kişilerin güvenlik kısıtlamalarını aşmaya çalışmasıyla risklerin oluştuğunu ve daha yeni model sürümlerinde kötüye kullanımı önlemek için ek iyileştirmeler yaptıklarını açıkladı.
🔹 İnceleme, New Hampshire Demokrat Senatörü Maggie Hassan’ın talebiyle gerçekleştirildi. Hassan, gelecek yıl Senato İç Güvenlik ve Hükümet İşleri Komitesi’ne başkanlık edecek ve komitenin ilk oturumlarından birinde kritik altyapı da dahil olmak üzere yapay zekânın güvenlik risklerini ele alarak yasal düzenleme hazırlıklarını incelemeyi planlıyor.
🔹 Başkan Donald Trump ve çok sayıda Cumhuriyetçi, yapay zekânın denetlenmesine sınırlı ilgi gösterdi. Yönetim, modellerin kullanımı ve ince ayarı için kurallar oluşturmak yerine büyük ölçüde yapay zekâ sektörünün kendi kendini düzenlemesine dayandı.
🔹 Anthropic’in eylülde yayımladığı tehdit raporu, Claude’un ateşli silahlar, füzeler, silahlı insansız hava araçları ve bombalar dahil konvansiyonel silahların tasarımı ve geliştirilmesine yönelik yazılım üretmek için kullanılma girişimlerini belgeledi. Raporda Çin’de üç, Rusya’da iki ve Yemen’de bir vaka yer aldı.
🔹 Trump, Beyaz Saray bütçe ofisinde üst düzey yardımcılık yapan Eric M. Ueland’ı ülkenin genel denetçisi olarak aday gösterdi. Ueland’ın onaylanması halinde Hesap Verebilirlik Ofisi’nin yönetimini 15 yıllığına üstlenmesi bekleniyor.



