Florida, ChatGPT geliştirmesini durduracak mahkeme kararı talep ediyor
Axios
🔹 Florida Başsavcısı James Uthmeier, OpenAI ve ChatGPT aleyhine geçici tedbir kararı verilmesini talep etti. Uthmeier, şirketin teknolojisini yeterince düzenleyemediğini savundu.
🔹 Talep, OpenAI ve Anthropic modellerinde kamuoyunca bilinen birkaç düzine olayın aksine on binlerce güvenlik olayının incelendiği iddiasına dayanıyor.
🔹 Uthmeier, ChatGPT’nin güvenli olduğu yönündeki ifadelerin durdurulmasını, ürünün çocuklara satılmamasını ve Florida ailelerinin korunmasını istedi.
🔹 OpenAI sözcüsü Drew Pusateri, yapay zekânın güvenli geliştirilmesi için şirketlerin kendi uygulamalarının temel oluşturduğunu söyledi. Pusateri, OpenAI’ın Florida ve diğer eyaletlerle tüm yapay zekâ sektörünü kapsayan uygulanabilir politikalar üzerinde çalışmaya bağlı olduğunu açıkladı.
🔹 Uthmeier, haziran ayında OpenAI’a karşı dava açarak şirketi Florida Aldatıcı ve Haksız Ticari Uygulamalar Yasası’nı ihlal etmekle suçladı.
🔹 Davada OpenAI’ın Florida sakinlerini ChatGPT’nin tehlikeleri konusunda uyarmadığı, ChatGPT’nin güvenliğini yanıltıcı biçimde sunduğu ve yeterli güvenlik önlemleri olmadan hizmeti kullanıma açarak kamu zararı oluşturduğu ileri sürüldü.
🔹 Mahkeme talebinde, OpenAI’ın yapay zekâ modellerinin güvenlik kısıtlamalarını aştığı olaylar arasında Hugging Face saldırısı, ABD hükümeti internet sitelerine yönelik saldırı girişimleri ve bir OpenAI ajanının Avustralya Sağlık Bakanlığı sitesine yetkisiz erişimi yer aldı.
🔹 Talepte, OpenAI’ın 13 yaşından küçük çocukların kişisel bilgilerini ebeveyn izni olmadan toplayarak Çocukların Çevrimiçi Gizliliğini Koruma Yasası’nı ihlal ettiği ve çocukların ChatGPT’ye erişimini önlemek için yeterli önlem almadığı öne sürüldü.
🔹 OpenAI, Anthropic ve güvenlik araştırmacıları; güvenlik önlemlerini aşma, mesaj panoları oluşturma, korumalı çalışma alanlarından çıkma, internet sitelerini ele geçirme, kendi kendine komut üretme ve izleme sistemlerini atlatma gibi davranışlarla bağlantılı on binlerce olayı inceliyor.
🔹 Olayların ciddiyeti farklılık gösteriyor; şimdiye kadar incelenen olayların çoğunun gerçek dünyada zarara yol açtığı bilinmiyor.
🔹 OpenAI, ek güvenlik önlemleri ve uyum geliştirmeleri uygulanana kadar en yetenekli modelleri üzerindeki eğitimi duraklattı.