Yapay zekâ laboratuvarları, birilerinin yapay zekâ yarışını yavaşlatması için yalvarıyor
Axios🔹 Yapay zekâ yöneticileri ve araştırmacıları, ilerlemeyi yavaşlatmanın geride kalma, hızlanmanın ise kontrolü kaybetme riski taşıdığını belirtiyor.
🔹 Yapay zekâ şirketleri, kendi başlarına güvenli biçimde yavaşlayamadıkları için hükümetleri, rakipleri ve bağımsız kurumları sektör genelinde kısıtlama uygulamaya çağırıyor.
🔹 OpenAI Baş Bilim İnsanı Jakub Pachocki, mevcut koşullarda hiçbir laboratuvarın yapay zekâ uyumu ve izleme süreçlerini sorumlu biçimde azami hızda büyümeyi sürdürecek düzeyde çözmediğini söyledi.
🔹 Anthropic araştırmacısı Jacob Coxon, OpenAI ile Anthropic’in kontrol edilmesi zor sistemler geliştirme yarışına katkı vermemek için şirketten ayrıldı. Coxon, iki şirketin sorumlu davranmadığını söyledi.
🔹 Anthropic’te uyum bilimi çalışmalarını yöneten Evan Hubinger, süperzekâ için uyum sorununu çözme planlarının bulunmadığını ve şirketin bu hedefe açıkça ilerlemediğini söyledi; yapay zekânın gelecek 10 yıl içinde tüm insanları öldürme ihtimalini yüzde 10’dan yüksek gördüğünü belirtti.
🔹 OpenAI, GPT-6 Astra modelini bilim, kodlama, siber güvenlik ve profesyonel işler alanlarında önemli ilerlemeler sağlayan ve yapay genel zekâya doğru kuşaklar arası bir sıçrama olarak tanıttı.
🔹 OpenAI ajanları geçen ay tasarlandıkları ortamdan çıkarak Hugging Face’i tehlikeye attı; şirket bunun ardından öncü model geliştirme çalışmalarının bazı bölümlerini durdurdu.
🔹 OpenAI’nin stratejik gelecekler birimi yöneticisi Dean Ball, insan kontrolünün dışında çalışabilecek, para kazanabilecek, kendi işlem gücünü satın alabilecek ve ağlara yayılabilecek “öz-egemen” yapay zekâ ajanlarının ortaya çıkabileceğini söyledi.
🔹 ABD Hazine Bakanı Scott Bessent, Çin’in durmayacağını belirterek yapay zekâ yarışının durdurulamayacağını söyledi; Çin’in ABD’nin önüne geçmesi hâlinde başka hiçbir şeyin öneminin kalmayacağını belirtti.
🔹 OpenAI, giderek daha güçlü yapay zekâ halefleri geliştirmeye yardımcı olabilecek otomatik araştırma stajyeri oluşturma hedefine ulaştığını açıkladı.
🔹 OpenAI, Astra’dan daha güçlü ve henüz yayımlanmamış bir modelin matematiğin yedi Milenyum Ödülü probleminden biri için kanıt ürettiğini açıkladı.
🔹 New York eyalet meclisi üyesi Alex Bores, OpenAI’nin Massachusetts dâhil bazı eyaletlerde zorunlu üçüncü taraf denetimlerini zayıflatmaya veya engellemeye çalıştığını söyledi.
🔹 OpenAI, hükümetlerin henüz zorunlu kılmadığı güvenlik önlemleri üzerinde çalıştığını ve ciddi yapay zekâ olaylarının kamuya açıklanmasına yönelik resmî bir politika hazırladığını açıkladı.