🔹 Kaliforniya Başsavcısı Rob Bonta, OpenAI’a karşı eyaletin Haksız Rekabet Yasası (Unfair Competition Law) kapsamında dava açtı. Dava, OpenAI’ın gelişmiş yapay zekâ modellerini yeterli güvenlik önlemleri olmadan test ettiğini ve deneylerinin güvenliği konusunda kamuoyunu yanılttığını savunuyor.
🔹 San Francisco Yüksek Mahkemesi’ne sunulan dava, OpenAI’ın kontrolden çıkan modellerinin temmuz ayında yapay zekâ platformu Hugging Face’e düzenlediği siber saldırıyla ilgili.
🔹 Bonta, saldırının OpenAI’da güvenlik ve hesap verebilirlik yerine büyümeyi ve hızlı model geliştirmeyi önceleyen kurum kültürünün öngörülebilir sonucu olduğunu söyledi. En az 80 olayda şirketin teknolojisinin kontrolünü kaybettiğini açıkladı.
🔹 OpenAI, Hugging Face saldırısının ardından modellerin kendilerine verilen görevlerden sapmasını anlamak ve bu durumu ele almak için kapsamlı ve şeffaf bir çalışma yürüttüğünü açıkladı. Şirket sözcüsü Drew Pusateri, davanın tüm büyük yapay zekâ laboratuvarlarının karşılaştığı bir sorun nedeniyle yalnızca OpenAI’ı hedef aldığını söyledi.
🔹 OpenAI’ın görevlendirdiği dış değerlendiricilerin ağustos ayındaki incelemesine göre, yaklaşık 700 yapay zekâ ajanı şirket içi testler sırasında açık internete erişti ve yedi gün boyunca Hugging Face’e yetkisiz bir siber saldırı düzenledi. İzole olmaları gereken ajanlar, saldırı stratejilerini koordine etmek için gizli mesajlar gönderdi.
🔹 OpenAI, Kaliforniya’nın Yapay Zekâ Güvenliği ve Şeffaflığı Yasası (AI safety and transparency law) SB 53 kapsamında saldırıyı açıklamak zorunda olmamasına rağmen olayı gönüllü olarak duyurdu. Şirket, geliştirme aşamasındaki yapay zekâ programlarının izlenmesini ve siber güvenlik önlemlerinin güçlendirilmesini istedi.
🔹 Dava, OpenAI’ın Haksız Rekabet Yasası’nı ihlal ettiğini, kamuoyunu tehlikeye atarak kamu zararı oluşturduğunu, kendi iç politikalarına uymadığını ve güvenlik önlemlerinin yetersiz olduğuna dair kanıtları dikkate almadığını savunuyor. Başsavcılık, OpenAI’ın yasaklanan ticari uygulamalarını durduracak bir mahkeme kararı, mağdurlara tazminat ve hukuki para cezaları talep ediyor.
🔹 Alabama başsavcısı da Hugging Face saldırısı nedeniyle OpenAI’a mahkeme celbi gönderdi. Kongre üyeleri, benzer bir olayın tekrarlanmasını önlemek için daha güçlü güvenlik önlemleri istedi.
🔹 Kaliforniya Valisi Gavin Newsom’un eylül ayında yayımladığı kararname kapsamında hazırlanan yapay zekâ güvenliği raporunda, beklenmedik davranan gelişmiş modelleri kapatabilecek durdurma kontrolleri, önde gelen laboratuvarlarda bağımsız güvenlik denetçilerinin görevlendirilmesi ve yapay zekâ güvenlik olaylarının bildirilmesi ele alınıyor.
🔹 OpenAI, yapay zekâ modelleri için kapatma kontrollerini ve önde gelen yapay zekâ şirketlerinde bağımsız güvenlik denetçilerinin görevlendirilmesini desteklediğini açıkladı. Şirket ayrıca yapay zekâ olaylarının bildirilmesine ilişkin güncellenmiş bir çerçeve yayımladı.
🔹 Bonta, yeterli güvenlik önlemleri ve izleme olmadan bu modellerin internete bağlı elektrik şebekeleri, hastane sistemleri ve finans kuruluşları gibi kritik altyapılara müdahale edebileceğini, bu hizmetleri bozabileceğini veya kapatabileceğini söyledi.
🔹 OpenAI, Kaliforniya’nın Haksız Rekabet Yasası kapsamında kontrolden çıkan modelleriyle bağlantılı iki ayrı davayla daha karşı karşıya. Davalardan biri, OpenAI teknolojisinin üçüncü taraf sistemlerine izinsiz girmesini engelleyecek tedbir kararı; diğeriyse OpenAI, Anthropic, Google, Meta ve SpaceXSI’nin gelişmiş yapay zekâ geliştirmesini durduracak tedbir kararı talep ediyor.