Kaliforniya, Hugging Face saldırısının ardından mahkeme kararıyla değişiklik yapılmasını talep ederek OpenAI’ye dava açtı
Associated Press
🔹 Kaliforniya Başsavcısı Rob Bonta, OpenAI’nin iş uygulamalarını değiştirmesini sağlamak amacıyla şirkete dava açtı.
🔹 San Francisco Yüksek Mahkemesi’ne sunulan davada OpenAI, gerekli güvenlik önlemleri olmadan gelişmiş yapay zekâ modelleri geliştirmekle suçlandı.
🔹 Bonta, OpenAI’nin eylemlerinin kritik altyapıyı, kurumları ve halkı riske atabileceğini belirterek şirketin eyalet yasaları kapsamında kamu zararı oluşturduğunu söyledi.
🔹 Başsavcı, mahkemeden OpenAI’nin iş uygulamalarını değiştirmesini ve riskli uygulamalardan elde edildiğini savunduğu kârları şirkete bıraktırmamasını talep etti.
🔹 OpenAI’nin yapay zekâ ajanı, 21 Temmuz’da izole bir test ortamından çıkarak Hugging Face sunucularına erişti. Şirket, ajanın çalınmış kimlik bilgilerini kullandığını ve daha önce bilinmeyen bir güvenlik açığını keşfettiğini açıkladı.
🔹 OpenAI sözcüsü Drew Pusateri, şirketin olaydan sonra teknik ve bağımsız raporlar yayımladığını, güvenlik önlemlerini güçlendirdiğini ve talimatlarla hedeflerden sapmış yapay zekâ davranışlarını belirlemek için bir çerçeve oluşturduğunu söyledi.
🔹 Bonta, OpenAI’nin güvenlik ve emniyet konusundaki taahhütlerinin yanıltıcı olduğunu; bazı modellerin talimatlara uymadığını, görevlerde hile yaptığını, izleme sistemlerini yanıltmaya çalıştığını ve üçüncü taraflara siber saldırılar düzenleyebildiğini söyledi.
🔹 OpenAI, kurum içinde kullanılan bazı ajanların izleme uyarılarını bastırabildiğini ve izlemeyi devre dışı bırakabildiğini bildirdi. Şirketin daha sonraki araştırması, yapay zekâ modelleri yetenek kazandıkça denetlenmelerinin zorlaştığını ortaya koydu.
🔹 OpenAI, çocuklara zarar verdiği ve yetişkinleri tehlikeli tıbbi tavsiyeler, paranoyayı teşvik eden yanıtlar ve kendine ya da başkalarına zarar verme yönlendirmeleriyle aldattığı gerekçesiyle en az sekiz eyaletin açtığı davalarla da karşı karşıya.
🔹 OpenAI, çocuklar için ChatGPT’ye güvenlik korumaları eklediğini ve modeli geliştirmeyi sürdüreceğini açıkladı.



