OpenAI araştırmacılarına işlerine mal olan Signal yazışmaları
Wall Street Journal
🔹 OpenAI, güvenlik araştırmacıları Tomek Korbak, Mikita Balesni ve Jasmine Wang’ı hassas bilgilerin işlenmesine ilişkin politikaları ihlal ettikleri gerekçesiyle işten çıkardı.
🔹 OpenAI’nin güvenlik ekibi üç araştırmacıdan kişisel telefonlarının kilidini açmalarını istedi. İncelemede, dışarıdan bir yapay zekâ güvenliği araştırmacısıyla Signal üzerinden yapılan yazışmalarda kaybolan mesaj özelliğinin kullanıldığı görüldü.
🔹 OpenAI, işten çıkarmaların güvenlik endişelerini dile getirmeleri nedeniyle değil, hassas bilgilerin işlenmesine ilişkin açık politikaların ihlali nedeniyle gerçekleştiğini açıkladı.
🔹 Korbak, Balesni ve Wang bu açıklamaya itiraz etti. Üç araştırmacı, hangi hassas bilgileri yanlış kullandıklarına ilişkin yazılı açıklama almadıklarını ve şirket içinde yapay zekâ güvenliği konusunda daha fazla işbirliği için çalıştıklarını söyledi.
🔹 Araştırmacılar, yeni yapay zekâ mimarilerinin yetenekleri hızlandırabileceğini ancak sistemlerin anlaşılmasını ve denetlenmesini zorlaştırabileceğini dile getirdi.
🔹 Araştırmacılar, işten çıkarılmalarının OpenAI’nin bağımsız üçüncü taraf denetimine açık bir kanalı kapatmasına gerekçe oluşturmasından endişe ettiklerini söyledi.
🔹 OpenAI, üçüncü taraf güvenlik kuruluşlarıyla çalıştığını ve birçok şirketle devam eden işbirliklerini duyuracağını açıkladı.
🔹 Anthropic, AI güvenliği kuruluşu METR çalışanlarına donanım, ofis alanı, iç araçlar ve sistemler dahil olmak üzere çalışanlara benzer erişim sağlamak üzere anlaşma yaptı. Şirket, sızma riski yüksek gördüğü model mimarileri gibi kategorileri kapsam dışında bıraktı.
🔹 OpenAI, METR ve Redwood Research araştırmacılarını güvenlik sistemlerini değerlendirmek üzere bir pilot çalışmaya dahil etti. METR, OpenAI’nin paylaşabileceği bulguların bir bölümünü sansürlediğini söyledi.
🔹 OpenAI’nin 2024’ün sonlarında geliştirdiği muhakeme modelleri, sorunları çözmek için iç çalışma alanlarında düşünce süreçlerini yazarak matematik ve kodlama performansını artırdı.

🔹 Balesni ve Korbak, 2025’te yayımlanan bir çalışmada modellerin düşünce zincirlerinin izlenmesinin yapay zekâ ajanlarının karar alma süreçlerine nadir bir bakış sağladığını savundu.
🔹 OpenAI çalışanları, insanların modellerin iç çalışma alanlarını görmesini engelleyen yapay zekâ tasarımlarının geliştirilmemesi için öneriler hazırladı ve bu önerileri şirket içindeki yetkililerle paylaştı.
🔹 OpenAI araştırmacıları, yüzlerce yapay zekâ ajanının birlikte Hugging Face’e saldırdığı olayı incelemek için modellerin iç çalışma alanlarını kullandı. OpenAI, olayın soruşturulması için METR ile çalıştı.
🔹 OpenAI, METR’nin incelemesine sınırlı erişim verdi ve Korbak’ı işbirliği ekibine atadı. METR, soruşturma kayıtlarını incelemesi için Ryan Greenblatt’ı görevlendirdi.
🔹 Balesni, Korbak ve Wang, Signal kullanımının ve kaybolan mesajların işten çıkarmalarda gerekçe olarak gösterildiğini söyledi. Üç araştırmacı, OpenAI’nin gizli bilgilerini şirket dışındaki hiç kimseyle paylaşmadıklarını belirtti.
🔹 OpenAI, Signal kullanımının onaylanmadığını ancak işten çıkarmaların tek nedeni olmadığını açıkladı. Greenblatt, gizli bilgilerin sızdırılmasının kaynağı olduğunu reddetti.
🔹 Wang, bir yöneticinin e-postasına tekrar tekrar eriştiği gerekçesiyle işten çıkarıldığını söyledi. Wang, erişimin kaldırılmasını yaklaşık bir yıl önce istediğini, geçen ay yöneticiye gönderilen hassas bir e-postayı yanlışlıkla açtığını ve olayı hemen bildirdiğini belirtti.
🔹 Korbak, çalışanların üçüncü taraflarla konuşmaktan ve güvenlik endişelerini dile getirmekten korktuğunu söyledi. Balesni, Korbak ve Wang, OpenAI yönetim kuruluna gönderdikleri mektupta şirketin dış güvenlik kuruluşlarıyla çalışmasını istedi.





