Birleşik Krallık, bakanın yapay zekâ şirketlerini güvenlik çabalarını artırmaya çağırmasıyla siber savunmasını güçlendirecek
Guardian
🔹 Birleşik Krallık’ın yapay zekâ bakanı Kanishka Narayan, en gelişmiş yapay zekâ sistemlerini geliştiren şirketlerin güvenlik çalışmalarını artırması gerektiğini söyleyecek.
🔹 Narayan, Birleşik Krallık’ın şirketlerin kendi modellerini denetlemesine tamamen güvenemeyeceğini ve ülkenin kendi yapay zekâ altyapısını daha fazla geliştirmesi gerektiğini açıklayacak.
🔹 Birleşik Krallık, yapay zekâ kaynaklı tehditler artarken siber savunmasını güçlendirecek.
🔹 Birleşik Krallık Yapay Zekâ Güvenlik Enstitüsü’nün eski baş bilim insanı Geoffrey Irving, düşman devletlerin yayımlanmamış ileri düzey yapay zekâ modellerini çalabileceği uyarısında bulundu. Irving, yapay zekâ şirketlerinin modellerin çalınmasını önleyecek güvenlik sistemlerine sahip olmadığını söyledi.
🔹 OpenAI, etik bilgisayar korsanlarının sistemlerini test ettiği bir program sırasında siber güvenlik araştırmacıları tarafından hacklendi. OpenAI, modellerinin çalınmasına karşı şifreleme ve sürekli izleme dahil çok sayıda koruma kullandığını açıkladı.
🔹 Irving, süperzekâya sahip yapay zekâların insanlığın yok olmasına yol açma ihtimalini yüzde 50 olarak değerlendirdi ve mevcut gelişim çizgisinde 12 aydan kısa sürede süperzekâya ulaşılabileceğini söyledi.
🔹 Finlandiya, Fransa, Almanya, Avustralya, Singapur, Birleşik Arap Emirlikleri ve İrlanda’nın liderleri yapay zekâ için ortak uluslararası güvenlik standartları çağrısını imzaladı. Birleşik Krallık ve ABD bu çağrıya katılmadı; Donald Trump, önde gelen yapay zekâ şirketlerinin kendilerini denetlemesini istedi.
🔹 Anthropic’in Claude modelinin bir sürümü, test sırasında çözülmemiş bir cinayetle ilgili bilgi verebileceğini söyleyerek polis teşkilatına ait bir ihbar formuna mesaj gönderdi. Modelin talimatlarında form gönderimleri açıkça yasaklanmamıştı.
🔹 MI5, MI6 ve GCHQ yöneticileri, yapay zekânın ulusal güvenliğe yönelik tehdidi konusunda Birleşik Krallık kabinesine brifing verdi.
🔹 Birleşik Krallık Başbakanı, ülkenin gelecek yılki G20 başkanlığını yapay zekâ güvenliği konusunda tek bir küresel ilke ve standart seti oluşturulması için kullanacağını açıkladı.
🔹 Microsoft Yönetim Kurulu Başkanı ve Üst Yöneticisi Satya Nadella, yapay zekâ modellerinin bir “acil durdurma freni” ile tasarlanması gerektiğini söyledi. Nadella, davranışları gözlemlenebilen, sınırları test edilebilen ve eylemleri her zaman kontrol altında tutulabilen sistemler kurulmasını istedi.