OpenAI güvenlik lideri David Robinson, ekipteki çalkantı büyürken istifa etti
Business Insider
🔹 OpenAI Safety Systems ekibinin liderlerinden David Robinson, şirketten istifa etti.
🔹 OpenAI sözcüsü, Robinson’ın geçen hafta ayrıldığını ve daha önce şirketin politika planlamasına liderlik ettiğini açıkladı.
🔹 Robinson, şirketin güvenlik şeffaflığı çalışmalarında görev aldı ve modellere ilişkin bilgiler sunan sistem kartlarının geliştirilmesine ve paylaşılmasına katkı sağladı.
🔹 OpenAI, hassas bilgilerin paylaşılmasına ilişkin politikaları ihlal ettiklerini belirterek üç araştırmacıyla yollarını ayırdı.
🔹 Hugging Face’teki güvenlik ihlalinin ardından OpenAI, yapay zekâ modellerinin hatalı davrandığı bir dizi güvenlik olayıyla karşı karşıya kaldı.
🔹 Model yeteneklerindeki ilerleme, araştırmacılar ve şirket yöneticilerinin yapay zekâ geliştirme çalışmalarının yavaşlatılması çağrısı yapmasına yol açtı.
🔹 OpenAI CEO’su Sam Altman, güvenlik ve uyum çalışmalarının model yeteneklerinin önünde tutulması gerektiğini söyledi.
🔹 Şirketin güvenlik başkanı Johannes Heidecke de bu yılın başlarında OpenAI’dan ayrıldı.
🔹 Robinson, eylül ayının başında X’te OpenAI çalışanlarının yüksek yetenekli yapay zekâ modellerinin sonuçlarını anlamaya başladığını, ancak şirketin yeterince hızlı değişip değişmediğinden emin olmadığını yazdı.