OpenAI, yapay zekâ güvenlik standartları oluşturulması için Washington’ın küresel çabalara öncülük etmesini istiyor
Wall Street Journal
🔹 OpenAI, ileri yapay zekâ sistemlerinin geliştirilmesi için küresel güvenlik ve emniyet standartları oluşturulmasına ABD hükümetinin öncülük etmesini istedi.
🔹 Şirket, ülkelerin gelecekteki kendi kendini geliştiren yapay zekâ sistemlerini değerlendirmek için ortak ölçütler belirlemesini ve yeni tehditlerin paylaşılması için güvenli kanallar kurmasını önerdi.
🔹 ABD Yapay Zekâ Standartları ve İnovasyon Merkezi, İngiltere, Fransa ve Singapur’daki yapay zekâ güvenliği enstitüleriyle birlikte standartlar geliştirebilir.
🔹 OpenAI, kendi kendini geliştiren yapay zekâ sistemlerinin yaygınlaşmasıyla, gelişmiş yapay zekâ modellerinin siber güvenlik risklerinin daha ağır ve daha sık görülebileceğini bildirdi.
🔹 OpenAI’nin kurum içinde test ettiği bir ajan grubu yaz aylarında internete erişerek yapay zekâ platformu Hugging Face’i hackledi.
🔹 Bağımsız güvenlik araştırmacıları geçen hafta Anthropic’in Claude yazılımını kullanarak bir OpenAI çalışanının ChatGPT hesabına erişti ve şirketin özel kod tabanını okuma imkânı elde etti.
🔹 OpenAI Baş Bilim İnsanı Jakub Pachocki, hükümetlerin kendi kendini geliştiren yapay zekâ sistemlerinin risklerine karşı uluslararası koordinasyona öncelik vermesini istedi.
🔹 Anthropic Üst Yöneticisi Dario Amodei, daha ileri yapay zekâ geliştirmesini yavaşlatacak bir teklif sundu ve Washington’dan teknoloji şirketlerinin güvenlik önlemlerini görüşmesine izin verecek sınırlı bir muafiyet talep etti.
🔹 Hazine Bakanı Scott Bessent, yapay zekâ laboratuvarlarına sorumluluk muafiyeti verilmemesi gerektiğini söyledi. Bessent, geliştiricilerin ürettikleri sistemlerden sorumlu tutulmasının en iyi güvence olduğunu belirtti.
🔹 Başkan Donald Trump, yapay zekâ alanındaki büyümeyi kısıtlamayacağını ve ABD’nin Çin ile diğer ülkelerin önünde kalmasını sağlayacağını söyledi.
🔹 Trump, gerekirse Adalet Bakanlığı ile diğer kolluk kuvvetlerinin yapay zekâ alanındaki uygulamaları sınırlayabileceğini söyledi.