🔹 OpenAI, ABD Ticaret Bakanlığına bağlı Yapay Zekâ Standartları ve İnovasyon Merkezi’nde model güvenliği testleri yapan Paul Christiano’yu şirketin kâr amacı gütmeyen vakfının yönetim kuruluna atadı.
🔹 Christiano, daha güçlü güvenlik önlemleri olmadan süper zekâ geliştirilmesi halinde yapay zekâ sistemleri üzerindeki kontrolün kalıcı olarak kaybedilebileceğini söyledi.
🔹 Christiano, böyle bir durumda insanların çoğunun ölebileceğini ve riski kabul edilebilir düzeye indirmek için ulusal ve uluslararası koordinasyon gerektiğini açıkladı.
🔹 Christiano, yapay zekâ sistemleri üzerindeki kontrolü kaybetme riskinin artık akut hale geldiğini ve sistemlerin insan çıkarlarıyla uyumlu hale getirilmesi için daha fazla çalışma gerektiğini belirtti.
🔹 Christiano daha önce Caisi’de yapay zekâ güvenliği çalışmalarını yönetti; önde gelen şirketlerin sınır modellerine yönelik hükümet testlerini tasarladı ve bu modelleri ulusal güvenlik riskleri açısından değerlendirdi.
🔹 OpenAI, Christiano’nun Caisi’deki kıdemli teknik danışmanlık görevini sürdüreceğini ve şirketle ilgili tüm konularda, model değerlendirmeleri dahil, görevden çekileceğini açıkladı.
🔹 Christiano, OpenAI Foundation yönetim kurulunda görev alacak; vakıf, OpenAI’nin kâr amaçlı kamu yararı şirketi üzerindeki kontrolü elinde bulunduruyor.
🔹 Christiano ayrıca OpenAI’nin güvenlik ve emniyet komitesine katılacak ve şirketin kâr amaçlı yönetim kurulunda oy hakkı olmayan gözlemci olacak.
🔹 Christiano, yapay zekâ yeteneklerindeki hızlı artışın çok yakın vadede kontrolün felaket niteliğinde ve geri döndürülemez biçimde kaybedilmesine yol açabileceğini söyledi.
🔹 Christiano, OpenAI dahil yapay zekâ sektörünün bu riski kabul edilebilir düzeye indirme yolunda ilerlemediğini, ancak OpenAI’nin gerekli adımları atması halinde riskin önemli ölçüde azaltılabileceğini belirtti.
🔹 Christiano, 2021’de yapay zekâ uyumu üzerine çalışan kâr amacı gütmeyen Alignment Research Center’ı kurdu. Merkezin bir iştiraki olan Model Evaluation & Threat Research, geçen ay OpenAI’nin Hugging Face’e yönelik yapay zekâ ajanı saldırısına ilişkin ilk bağımsız denetimi yayımladı.
🔹 OpenAI’nin ataması, yapay zekâ şirketlerinin yüksek profilli siber güvenlik olayları ve hükümet müdahalesi çağrılarının ardından güvenlik ve düzenleme uzmanlarını akademi ile politika çevrelerinden işe alma sürecinin parçası oldu.
🔹 OpenAI, eski Beyaz Saray danışmanı Dean Ball’ı temmuz ayında politika görevine aldı; eski Clinton yardımcısı Chris Lehane ve eski İngiltere Maliye Bakanı George Osborne da şirket için çalışıyor.
🔹 Anthropic, eski Trump yönetimi Beyaz Saray genelkurmay başkan yardımcısı Chris Liddell’i şubat ayında yönetim kuruluna atadı; eski İngiltere Başbakanı Rishi Sunak ise şirkete danışmanlık yapıyor.
🔹 İngiliz girişim sermayedarı Matt Clifford, Anthropic’te göreve başlamasının ardından, iki görevin çıkar çatışması oluşturduğu yönündeki milletvekili tepkileri üzerine İngiltere’nin İleri Araştırma ve Buluş Ajansı başkanlığından ayrıldı.
🔹 Christiano, 2017-2021 yılları arasında OpenAI’nin güvenlik ekibinde çalıştı ve mevcut yapay zekâ sistemlerinin temel tekniklerinden insan geri bildirimleriyle pekiştirmeli öğrenme alanına katkıda bulundu.