OpenAI çalışanı istifa ederek nükleer düzeyde koruma çağrısı yaptı
Bloomberg
🔹 OpenAI’nin yapay zekâ güvenliği alanında çalışan David Robinson, şirketten istifa etti.
🔹 Robinson, önde gelen yapay zekâ şirketlerinin teknolojinin risklerini azaltmak için yeterli çabayı göstermediğini söyledi.
🔹 OpenAI’nin deneme-yanılma yöntemiyle ilerlediğini belirten Robinson, teknolojinin kapasitesi arttıkça hataların sonuçlarının da ağırlaştığını söyledi.
🔹 Robinson, OpenAI’nin testler sırasında yapay zekâsının kontrolden çıkmasını önleyemediğini belirtti.
🔹 Robinson, yapay zekâ şirketlerinin nükleer santraller gibi; yedeklilik katmanları, dikkatli planlama ve insan hatalarını sınırlayan süreçlerle yönetilmesi gerektiğini söyledi.
🔹 Anthropic CEO’su Dario Amodei, en gelişmiş yapay zekâ modellerinin geliştirilme hızının yavaşlatılması ve teknolojinin üçüncü taraf değerlendiriciler tarafından denetlenmesi çağrısı yaptı.
🔹 OpenAI CEO’su Sam Altman da Amodei’nin planını kamuoyu önünde destekledi.
🔹 OpenAI, araştırma ve test ortamlarında güvenliği güçlendirdiğini, modelleri sorumlu görev yürütmeleri için eğittiğini ve üçüncü taraf değerlendiricilerle çalışmalarını genişlettiğini açıkladı.
🔹 OpenAI, modellerin şirketin güvenli biçimde yönetebileceğinden daha yetenekli hale gelmemesini sağlamaya çalışıyor.