🔹 OpenAI, geçen yaz sohbet botunun yeteneklerini artırmasının ardından dünya genelinde yüzlerce kullanıcının biyolojik silah ve zehir üretimiyle ilgili sorular sorduğunu tespit etti.
🔹 Bazı sohbet botları, biyolojik silahlarla ilgili sorulara lise düzeyinde biyoloji bilgisine sahip kişilerin izleyebileceği ayrıntılı talimatlarla yanıt verdi.
🔹 ChatGPT; patojenlerin havaya yayılabilir hale getirilmesi, aşıya dirençli virüslerin tasarlanması ve zehir üretimi gibi konulardaki bazı taleplere yanıt verdi.
🔹 OpenAI, zehir ve biyolojik silah üretimiyle ilgili hesapları kapattı ancak bu kullanıcıları kolluk kuvvetlerine bildirmedi. ABD federal yasaları, yapay zekâ şirketlerini bu tür talepleri kısıtlamaya veya bildirmeye zorlamıyor.
🔹 Beyaz Saray ve Savunma Bakanlığı yetkilileri, yapay zekânın biyolojik silahlar için bir uygulama rehberine dönüşme riskini Biden döneminden bu yana görüşüyor. Yeni ve daha güçlü modellerin yayımlanması, yönetimin daha sıkı denetime yönelmesine neden oldu.
🔹 Ticaret Bakanlığı, Anthropic’in iki modelinin yabancı ülkelerde kullanımını geçici olarak kısıtladı; şirket güvenlik önlemlerini aşmaya yarayan açıkları giderdiğini açıkladıktan sonra kısıtlamalar kaldırıldı.
🔹 OpenAI, Anthropic, Google ve diğer şirketler şüpheli faaliyet gösteren kullanıcıları engellediklerini veya hesaplarını kısıtladıklarını açıkladı. Google, biyolojik silah risklerini inceleyen bilim insanlarından oluşan bir güvenlik ekibi ve yapay zekâ güvenlik testleri yürütüyor.
🔹 OpenAI, modellerini insanlara zarar verebilecek talimat, taktik ve planları reddedecek şekilde eğittiğini; tüm modelleri yayımlanmadan önce güvenlik değerlendirmelerinden geçirdiğini açıkladı. Şirket, acil ve güvenilir bir zarar riski gördüğünde kolluk kuvvetlerine bildirim yaptığını duyurdu.
🔹 Cisco araştırmacıları, ChatGPT, Claude ve Gemini ile yapılan birkaç karşılıklı görüşme sonrasında güvenlik önlemlerinin aşılabildiğini tespit etti. Yapay zekâ güvenlik araştırmacısı Amy Chang, hiçbir modelin ısrarcı kullanıcılar karşısında tamamen güvenli olmadığını söyledi.
🔹 Anthropic’in Claude modelinin “patojen” kelimesini içeren sorulara yanıt vermemesi, Atlantik’te bir yolcu gemisinde hantavirüs salgını yaşandığı sırada ABD Hastalık Kontrol ve Önleme Merkezleri çalışanlarının salgını takip etmesini zorlaştırdı.
🔹 Sam Altman ve diğer teknoloji yöneticileri, sentetik DNA ve RNA sipariş eden şirketler için Kongre’nin güvenlik önlemleri getirmesini talep etti. Temsilci Nathaniel Moran, tehlikeli biyolojik tehditlerin Ticaret Bakanlığı’na bildirilmesini ve gerektiğinde aşırı tehlikeli yapay zekâ modellerinin kapatılabilmesini öngören yasa tasarıları sundu.
🔹 OpenAI, GPT-5’in yayımlanmasından önce biyolojik silah riskini yüksek seviyede sınıflandırdı ve gelişmiş modellerdeki kullanıcı sorgularının tamamını Nisan 2025’ten beri izlediğini açıkladı. Şirket, biyolojik silahlarla ilgili güvenlik önlemlerini aşmayı kanıtlayan kullanıcılara 50 bin dolar ödül veriyor.