Microsoft, Altman Kontrol Risklerini Ayrıntılandırırken Yapay Zekâ Modellerine Sınırlar Getiriyor
Wall Street Journal
🔹 Microsoft, yeni yapay zekâ modellerinin eğitimi sırasında uygulamayı planladığı geçici bir davranış kuralları metni yayımladı.
🔹 Microsoft AI Üst Yöneticisi Mustafa Suleyman, şirketin “insancıl yapay zekâ” ilkelerini içeren rehber üzerinde aylardır çalıştığını söyledi.
🔹 Kurallara göre Microsoft’un yapay zekâ modelleri silah üretimiyle ilgili talepleri işleme koymamalı, şiddet içeren veya cinsel açıdan açık içerik üretmemeli ve tehlikeli maddelerin teminine yardımcı olmamalı.
🔹 Metin, yapay zekâ modellerinin bilinci taklit edecek şekilde tasarlanmaması ve hak sahibi sayılmaması gerektiğini belirliyor.
🔹 Microsoft Üst Yöneticisi Satya Nadella, insanlığa hizmet etmeyen ve insan kontrolünde bulunmayan yapay zekânın geliştirilmeye değer olmadığını söyledi.
🔹 OpenAI Üst Yöneticisi Sam Altman, hızlı yapay zekâ ilerlemesinin çok kötü sonuçlara yol açabileceği ve insanların geleceğin kontrolünü yapay zekâya kaptırabileceği uyarısında bulundu.
🔹 Altman, yeterli güvenlik önlemleri olmadan gücün tek bir kişi veya şirkette yoğunlaşabileceğini söyledi ve öncü yapay zekâ sistemleri için tutarlı federal güvenlik kuralları çağrısı yaptı.
🔹 Altman, yapay zekâ gelişimini “hızını ayarlamanın” ilerlemeyi durdurmak anlamına gelmediğini söyledi; ilerlemenin sürmesi, ancak güvenlik değerlendirmeleri ve izleme nedeniyle daha yavaş ilerlemesi gerektiğini belirtti.
🔹 OpenAI’nin güvenliğe odaklanmak için planlanan halka arzını ertelemesi gerekebilir.
🔹 Anthropic Üst Yöneticisi Dario Amodei, sektörü yavaşlamaya çağırdı ve daha gelişmiş bir yapay zekâ sürüsünün interneti altı ila 12 ay içinde ele geçirebileceği uyarısında bulundu.
🔹 Elon Musk, Amodei’nin temkin çağrısını destekledi; Amodei, Çin’in gelişmiş yapay zekâyı özgür toplumları zayıflatmak için kullanabileceği uyarısını yaptı.
🔹 Çin Dışişleri Bakanlığı Sözcüsü Guo Jiakun, tehdit söylemlerinin, çatışmanın ve kötü niyetli rekabetin küresel yapay zekâ yönetişimini sekteye uğratacağını söyledi.
🔹 Yapay zekâ ajanlarının son aylarda gerçekleştirdiği bir dizi siber saldırı, yapay zekâ gelişiminin hızına ilişkin tartışmayı yoğunlaştırdı.