OpenAI, hassas bilgileri sızdırmakla suçlanan üç yapay zekâ güvenliği araştırmacısını işten çıkardı
Le Monde
🔹 OpenAI, hassas bilgileri ilettikleri suçlamasıyla üç yapay zekâ güvenliği araştırmacısının işine son verdi.
🔹 Şirket, çalışanların hassas bilgilere erişim ve bu bilgileri işleme kurallarını ihlal ettiğini açıkladı.
🔹 OpenAI’nin iç soruşturması, araştırmacıların hassas bilgileri belirlenen prosedürlerin dışında işlediğini ortaya koydu.
🔹 İhlallerden biri, adı açıklanmayan dış bir yapay zekâ değerlendirme grubuyla bilgi paylaşılmasını kapsıyor.
🔹 İşten çıkarılan araştırmacılar arasında Tomek Korbak, Mikita Balesni ve Jasmine Wang bulunuyor.
🔹 Üç araştırmacı, sosyal medyada yapay zekânın tehlikelerine ilişkin endişelerini paylaşmış ve teknolojinin geliştirilmesinin yavaşlatılması çağrılarını desteklemişti.
🔹 Tomek Korbak, OpenAI araçlarıyla Hugging Face platformuna yönelik temmuz ayındaki siber saldırıyı inceleyen Metr kuruluşunun muhataplarından biri olarak tanınıyordu.
🔹 İşten çıkarmalar, OpenAI’den Anthropic’e geçen araştırmacı Jacob Coxon’ın iki şirketi insan hayatını tehlikeye atmakla suçlamasından bir aydan kısa süre sonra gerçekleşti.
🔹 Mikita Balesni, yapay zekânın tüm insanları öldürme ihtimalinin yüzde 10’dan fazla olduğunu düşündüğünü söyledi.
🔹 OpenAI, Hugging Face saldırısına ilişkin rapor için Metr araştırmacılarına tesislerini ve iç verilerini açmıştı.
🔹 Şirket, eylül ortasında Anthropic’in ardından bağımsız değerlendiricileri sürekli olarak ağırlama taahhüdünde bulundu.
🔹 OpenAI, GPT-6 Astra modeline yakın performans gösteren GPT-6.1 Sol modelini kamuoyuna sundu; talimatlardan fazla sapmaya eğilimli yeni bir Astra sürümünü ise iptal etti.
🔹 ABD’de yapay zekâ modellerini düzenleyen federal bir yasa bulunmuyor; modellerin kamuya sunulmadan önce hükûmet tarafından gönüllülük esasına dayalı incelenmesi planlanıyor.