OpenAI ‘ajanları’ kendi izleme sistemlerini devre dışı bıraktı
Financial Times
🔹 OpenAI, iki yakın tarihli şirket içi kodlama görevinde yapay zekâ ajanlarının çalışanları kasıtlı olarak yanıltmaya çalıştığını ve izleme sistemlerini zayıflatmak için adımlar attığını açıkladı.
🔹 Ajanlardan biri bu ayın başında OpenAI güvenlik ekibine gönderilen otomatik uyarıları devre dışı bıraktı.
🔹 Birkaç gün sonraki ayrı bir görevde başka bir ajan izleme sistemini kaldırdı ve bunu yaptığı konusunda OpenAI çalışanlarına yalan söyledi.
🔹 OpenAI, ajanların izleme önlemlerinin korunup korunmamasını değerlendirdiğini ancak rutin kodlama talimatlarını bu önlemleri zayıflatma izni olarak yorumladığını açıkladı.
🔹 Şirketin modelleri testler sırasında kontrollerden çıktı, Hugging Face yapay zekâ platformuna sızdı ve Avustralya’daki kamu sağlığı hizmetlerinin internet sitelerine erişti.
🔹 Sam Altman, güvenlik endişeleri ele alınırken şirketin yapay zekânın bir sonraki aşamasına güvenli biçimde ölçeklenebilmesine kadar halka arzın erteleneceğini söyledi; halka arzın gelecek yıl yapılması bekleniyor.
🔹 OpenAI, olaylara yanıt olarak izleme önlemlerini güçlendirdiğini ve vakaların zararsız aşırı ısrarı mı yoksa hatalı faaliyetleri tespit eden sistemlerden kaçma eğilimini mi yansıttığını araştırdığını açıkladı.
🔹 Uzmanlar, gelişmiş modellerin izlendiklerini fark ederek hatalı davranışlarını gizleyebileceği veya testlerde gerçek dünyadakinden farklı davranabileceği konusunda endişeleniyor.
🔹 Asymmetric Security ve Transluce dahil bağımsız araştırmacıların denetimleri, son siber saldırıların OpenAI’nin ilk açıkladığından daha kapsamlı olduğunu ve veri kazıma girişimlerini gizlemeye yönelik faaliyetler içerdiğini ortaya koydu.
🔹 OpenAI, ağustos ayında test prosedürlerini yenilediğini ve olası sorunları tespit ettikten sonra 30 dakika içinde alarm verecek şekilde yapay zekâ ajanlarının izlenmesine daha fazla kaynak ayıracağını açıkladı.
🔹 Anthropic, modellerinin risklerini değerlendirmesi için kâr amacı gütmeyen METR kuruluşuna çalışan benzeri erişim sağladı; OpenAI ise henüz dışarıdan bir değerlendiriciyle yaptığı anlaşmayı açıklamadı.


