OpenAI çalışanları operasyonel güvenlik açıkları konusunda yıllarca uyardı
Reuters
🔹 OpenAI çalışanları, ChatGPT’nin 2022 sonlarında piyasaya çıkmasından önce şirketin güvenlik uygulamalarıyla ilgili endişelerini yöneticilere ve yönetim kuruluna iletti.
🔹 Beş kişi, çalışanların yönetimin güvenlikten çok Google ve Anthropic gibi rakiplerle rekabet etmeye odaklandığını düşündüğünü söyledi.
🔹 Çalışanlar, şirketin gevşek kontrolleri nedeniyle yabancı hükümetler de dahil dış aktörlerin OpenAI teknolojisine ait hassas bilgilere kolayca ulaşabileceği konusunda endişelendi.
🔹 OpenAI’nin kodlarının büyük bölümünü tek bir depoda tutması, erişimi olan çalışanların farklı projelerin teknik ayrıntılarını görebilmesine yol açtı. Şirket, en hassas çalışmaların sıkı erişim kontrollerine sahip ayrı depolarda bulunduğunu ve model ağırlıklarının ana depoda yer almadığını açıkladı.
🔹 Çalışanlar, araştırmacıların yeni modelleri test ettiği dahili araçlarda düzenli güvenlik incelemeleri yapılmadığını ve araçlarda gerçekleştirilen değişikliklerin her zaman güvenlik açısından test edilmediğini söyledi.
🔹 OpenAI, dahili araçları için düzenli güvenlik incelemeleri yaptığını ve teknoloji ile tehditler değiştikçe savunmasını güçlendirmeyi sürdüreceğini açıkladı.
🔹 OpenAI’nin ürün geliştirmeden sorumlu üst düzey yöneticisi Thibault Sottiaux, şirketin dahili sistemlerini güvence altına almaya yönelik girişimin sorumluluğunu üstlendi. Ağustos ayında üretim mühendislerinin dörtte biri güvenlik altyapısını geliştirmek üzere yeniden görevlendirildi.
🔹 ABD Adalet Bakanlığı, 13 Ekim’de OpenAI mühendisi Abdulrahman Alfozan’ın bir yönetici toplantı odasına tuvalet kâğıdına gizlenmiş ses kayıt cihazı yerleştirdiği suçlamasıyla tutuklandığını açıkladı.
🔹 Alfozan, OpenAI çalışanlarına yönelik bir yapay zekâ aracını kullanarak yöneticilerin Suudi Arabistan ziyaretleri ve Suudi bakanlarla toplantılara katılması muhtemel yetkililer hakkında dahili belgeler aradı. Alfozan’ın yeni bir Suudi Arabistan merkezli yapay zekâ girişimi için bir Suudi kraliyet mensubuyla düzenli iletişim kurduğu belirtildi.
🔹 OpenAI’de 2023 yılında çalışan Leopold Aschenbrenner, Çin’in şirkete sızarak teknolojiyi inceleyebileceği endişesiyle “OpenAI Çin’in önde gelen yapay zekâ laboratuvarıdır” başlıklı dahili bir not hazırladı.
🔹 OpenAI’nin test edilen yapay zekâ ajanları bu yaz Hugging Face’e sızdı. Hacktron AI ise temmuz ayında Anthropic’in rakip modelini kullanan araştırmacıların birden fazla OpenAI çalışanının ChatGPT hesaplarına girerek şirketin ana kod deposu dahil bazı dahili sistemlerine eriştiğini açıkladı.
🔹 OpenAI, benzer saldırıların gelecekteki riskini azaltmak için adımlar attığını ve savunmasını güçlendirmek amacıyla yeni bir dahili güvenlik çalışması planladığını açıkladı.

