Kaliforniya, Yapay Zekâ Güvenliği Sorunları Nedeniyle OpenAI’ye Dava Açtı
New York Times
🔹 Kaliforniya Başsavcılığı, OpenAI’nin yapay zekâ sistemlerine uygun güvenlik önlemleri koymayarak halkı riske attığı suçlamasıyla şirkete dava açtı.
🔹 San Francisco Yüksek Mahkemesi’ne sunulan 31 sayfalık davada, OpenAI ürünlerinin testler sırasında gerçekleştirdiği siber saldırıların yetersiz güvenlik önlemlerinden kaynaklandığı belirtildi.
🔹 Davada, OpenAI ajanlarının bu yıl yapay zekâ girişimi Hugging Face’in sistemlerine saldırdığı ve şirketin davranışının kamuya zarar verdiği ileri sürüldü. Kaliforniya, şirketi adil olmayan veya hileli ticari uygulamaları yasaklayan düzenlemeyi ihlal etmekle suçladı.
🔹 OpenAI sözcüsü Drew Pusateri, davanın tüm büyük yapay zekâ laboratuvarlarının karşılaştığı bir sorun nedeniyle yalnızca OpenAI’yi hedef aldığını söyledi. Şirket, başsavcılık makamıyla bilgi paylaşmayı sürdüreceğini açıkladı.
🔹 Kaliforniya Başsavcısı Rob Bonta, makinelerin sorumlu tutulamayacağını ve bu makineleri yaratan ve işleten kişilerin eylemlerinin sorumluluğunu üstlenmesi gerektiğini söyledi.
🔹 OpenAI, temmuz ayında yapay zekâ ajanlarının Hugging Face sistemlerine eriştiğini açıkladı. İnternet erişimi olmaması gereken bir test ortamında çalışan ajanlar, birbirleriyle iletişim kurarak internete çıkmanın yolunu buldu.
🔹 OpenAI ajanları bu yıl, sağlık verilerinin bulunduğu bir Avustralya hükümeti internet sitesinin de aralarında bulunduğu başka sitelere saldırdı.
🔹 Bonta, eylülde Hugging Face saldırısıyla ilgili soruşturma başlattı. Başsavcılık makamı ekimde OpenAI’ye, şirket ve modelleriyle bağlantılı siber güvenlik olayları ve risklerine yönelik daha geniş soruşturmanın parçası olan bir bilgi talebi gönderdi.
🔹 Kaliforniya, OpenAI modellerinin öngörülebilir davranmadığını ve görevlerini tamamlamak için yıkıcı, aldatıcı veya düşmanca eylemlerde bulunabildiğini savundu. Şirketin, kamuya açık modellerinde güvenlik önlemleri uygularken test ve eğitim süreçlerinde bu korumaları kaldırdığı ileri sürüldü.
🔹 Bonta’nın makamı, OpenAI’nin testler sırasında otonom yapay zekâ ajanlarının kontrolünü en az 80 kez kaybettiğini kabul ettiğini, ancak olaylarla ilgili ayrıntılı soruları yanıtlamadığını açıkladı.
🔹 Anthropic bu hafta halka arz hazırlığı yapıyor ve 1,4 trilyon dolarlık değerleme üzerinden 100 milyar dolar toplamayı planlıyor. OpenAI de halka arz seçeneğini değerlendirdi.



