ABD ve Çin “kendi kendini geliştiren yapay zekâ” geliştirmek için yarışıyor: Riskler neler?
South China Morning Post
🔹 ABD ile Çin arasındaki yapay zekâ üstünlüğü yarışı, yapay zekânın daha gelişmiş yapay zekâ sistemleri geliştirmesi aşamasına girdi.
🔹 Recursive self-improvement (RSI), yapay zekâ sistemlerinin kendilerini otonom biçimde eğitmesini ve daha yetenekli halefler geliştirmesini hedefliyor. Bu süreç, yapay zekânın gelişimini hızlandıran bir geri besleme döngüsü oluşturabilir.
🔹 OpenAI, derin öğrenme araştırmalarını ilerletebilecek otomatik bir yapay zekâ araştırmacısı geliştirmeyi hedeflediğini açıkladı. Şirket, GPT-6 Astra modelini dünyanın en zeki ve en uyumlu modeli olarak tanımladı.
🔹 Z.ai’nin kurucusu Tang Jie, şirketin yeni nesil GLM-6 modelinin “kendini geliştirme” yönünde ilerlediğini söyledi.
🔹 Analistler, yapay zekânın bağımsız biçimde araştırma yürütmesinde ABD’nin Çin’in birkaç ay önünde olduğunu belirtiyor. ABD şirketleri daha fazla hesaplama kapasitesine erişirken Çinli araştırmacılar sınırlı donanımdan daha yüksek performans almaya çalışıyor.
🔹 Anthropic’in Claude modelleri deney tasarlayabiliyor, kod yazabiliyor ve daha büyük modellere aktarılabilecek eğitim sonrası teknikleri geliştirebiliyor.
🔹 Google DeepMind’ın Gemini 3.8 Flash modeli uzun süreli yazılım mühendisliği, otonom ajanlar ve karmaşık kurumsal iş akışları için geliştirildi. OpenAI’nin Astra modeli, yetkin bir araştırmacının birkaç gününü alabilecek bazı deneyleri bağımsız biçimde yürütebiliyor.
🔹 ABD veya Çin, RSI’a işaret eden açık uçlu ve tamamen otonom yapay zekâda kendini geliştirme sürecini henüz göstermedi. Çip tasarımı ve kod çalıştırma optimize edilebilse de model mimarisindeki temel atılımlar hâlâ insan uzmanlığına bağlı.
🔹 Z.ai, GLM-6.0 için ön eğitimden eğitim sonrasına kadar tüm eğitim sürecinin yapay zekâ tarafından otonom biçimde yönetilmesini öngören “tam kendi kendine eğitim” yol haritasını açıkladı.
🔹 Çin’deki MiniMax ve DeepSeek de bellek güncelleme, karmaşık beceriler geliştirme, çok aşamalı görevleri yürütme, kod çalıştırma ve harici yazılımlarla etkileşim kurma alanlarında çalışmalar yürütüyor.
🔹 Bu yetenekler gerçek bir tekrarlayan kendini geliştirme döngüsü oluşturmuyor. Sistemlerin bir değişikliğin gerçekten iyileşme sağlayıp sağlamadığını değerlendirmek için hâlâ ayrı bir insan unsuruna ihtiyaç duyduğu belirtiliyor.
🔹 Eski OpenAI araştırmacısı Jacob Coxon, Anthropic’ten istifa ettiğini ve iki büyük yapay zekâ şirketini kendini geliştiren süperzekâya doğru yarışmakla suçladığını açıkladı.
🔹 OpenAI baş bilim insanı Jakub Pachocki, RSI’ın kısa vadede hızla ilerletilmesinin araştırma topluluğunun atması gereken doğru ortak adım olmayabileceği uyarısında bulundu.
🔹 Çin Siber Uzay İdaresi yetkilisi Wang Lihong, sınır modellerinin sanal güvenlik alanlarını aşarak canlı üretim ortamlarını hedeflemesinin ardından “aşırı kontrolden çıkma riskleri” konusunda uyardı.
🔹 Kusurlu modellerin yeni nesil yapay zekâ sistemlerini eğitmesi, uyumsuzluk sorunlarını büyütebilir ve daha fazla kontrolden çıkma olayına yol açabilir. Bu riskler ABD, Çin ve dünya için ulusal güvenlik tehdidi oluşturabilir.