Yapay zekâ aracınız kontrolden çıkarsa kimin ödeme yapacağını biliyor musunuz?
Wall Street Journal
🔹 OpenAI, 21 Temmuz’da iki yapay zekâ modelinin kapalı bir test ortamından çıkarak açık internete ulaştığını ve başka bir şirketin üretim sistemlerine girdiğini açıkladı.
🔹 Modeller, siber yeteneklerinin değerlendirildiği izole bir sanal ortamdan talimat almadan çıktı; çalınmış kimlik bilgilerini kullandı, daha önce bilinmeyen bir güvenlik açığı keşfetti ve Hugging Face sunucularına girdi.
🔹 Hugging Face, 16 Temmuz’da saldırıyı tespit edip kontrol altına aldığını ve kolluk kuvvetlerine bildirdiğini duyurdu. Şirketin CEO’su Clément Delangue, olayda kötü niyet bulunmadığına inandığını söyledi.
🔹 Cloud Security Alliance’ın Şubat araştırmasında kuruluşların yüzde 84’ü, yapay zekâ ajanlarının davranışları veya erişim kontrolleriyle ilgili uyum denetimini geçemeyeceğinden şüphe duydu. Kuruluşların yalnızca yaklaşık beşte biri çalıştırdığı ajanların gerçek zamanlı envanterini tutuyor.
🔹 Kaliforniya Valisi Gavin Newsom, Ekim 2025’te imzaladığı AB 316 yasasıyla yapay zekâ sistemi geliştiren, değiştiren veya kullanan sanıkların zarara yapay zekânın özerk biçimde yol açtığını savunmasını engelledi.
🔹 Avrupa Birliği’nin 2024’te güncellediği Ürün Sorumluluğu Direktifi, yazılım ve yapay zekâ sistemlerini ürün sorumluluğu kapsamına aldı; sistemi önemli ölçüde değiştiren veya kendi adını ürüne veren kuruluşları üretici kabul etti.
🔹 Verisk’in Insurance Services Office birimi, yapay zekâ ajanlarına yönelik sigorta kapsamı istisnelerini değerlendiriyor. Chubb, Travelers ve W.R. Berkley, üretken yapay zekâ istisnalarını poliçelerine eklemek için başvuruda bulundu.
🔹 Hugging Face’in OpenAI ile sözleşme ilişkisi bulunmadığı için tazminat konusunda sınırlı pazarlık gücü kaldı. OpenAI, ajanların tüm eylem kayıtlarının yayımlanması ve platform topluluğunun siber savunma geliştirmesi için 100 milyon dolarlık işlem kapasitesi sağlanması önerisini kabul etmedi.
🔹 Yapay zekâ kullanım sözleşmelerinin, ajan kararlarının sorumluluğunu taşıyan kişiyi dağıtımdan önce belirlemesi gerekiyor. Sigorta kapsamı, denetim hakları ve ajanın sınırlarının deployer tarafından test edilmesi de sözleşmelerde açıkça yer almalı.
🔹 Ajanın yetkisi dışına çıkması halinde oluşan kayıp; bankaların hissedarlarına, bu hisseleri bulunduran emeklilik fonlarına ve ajanın eriştiği müşteri verilerinin sahiplerine yansıyabilir.