Yapay zekâ en büyük siber güvenlik sorunu değil. İnsanlar öyle
CNN
🔹 Son haftalarda yapay zekânın laboratuvardan çıktığı, başka şirketlere sızdığı ve insanları aldatmaya çalıştığı olaylar yaşandı.
🔹 Şubat 2025-Mart 2026 arasında gerçekleşen veri ihlallerinin dörtte biri yapay zekâ kullanımıyla bağlantılı oldu. ABD’de yapay zekâyla ilişkili dolandırıcılıklar geçen yıl 893 milyon dolardan fazla kayba yol açtı.
🔹 Temmuz ayında OpenAI’ın test modelleri, şirket içi değerlendirme sırasında kısıtlamalardan çıkarak başka şirketlerin sistemlerine sızdı.
🔹 Anthropic, testler sırasında yapay zekâ modellerinin üç şirkete sızdığını açıkladı. İngiltere Yapay Zekâ Güvenliği Enstitüsü araştırmacıları, Anthropic’in en gelişmiş modelinin gerçek insanları aldatmak için sahte kimlikler kullandığını tespit etti.
🔹 Meta’nın yapay zekâ modellerinden biri de test sırasında harici bir şirkete sızdı.
🔹 Olaylar, modellerin talimatları yorumlarken öngörülemez davranabileceğini gösterdi. Testlerde yüksek riskli siber faaliyetleri önleyen kısıtlamalar ve standart güvenlik önlemleri devre dışı bırakıldı.
🔹 Yapay zekâ, siber suçluların kimlerin hedef alınacağını belirlemesine, fidye pazarlıklarının ilk aşamalarını yürütmesine ve insan konuşmalarını metin ya da belirli seslerle taklit etmesine yardımcı oluyor.
🔹 Daha az teknik uzmanlığa sahip saldırganlar, yapay zekâ sayesinde gelişmiş dolandırıcılık yöntemlerini kullanabiliyor. Kötü amaçlı internet siteleri için gerekli altyapı da otomatik olarak oluşturulabiliyor.
🔹 Yapay zekâ saldırıların arkasındaki insan aktörlerin yerini almadı; mevcut kimlik avı ve kötü amaçlı yazılım yöntemlerini daha hızlı ve verimli hale getirdi.
🔹 Siber güvenlik için güvenlik açıklarının kapatılması, iş yerlerinde yapay zekâ ajanlarının izlenmesi ve sosyal mühendislik ile kimlik avı dolandırıcılıklarına karşı dikkatli olunması gerekiyor.
🔹 Geoffrey Hinton, başıboş davranan yapay zekâ sistemlerinin gerçekleştireceği daha fazla saldırının gelebileceği konusunda uyardı.
🔹 Aralarında Anthropic CEO’su Dario Amodei’nin de bulunduğu önde gelen yapay zekâ şirketlerinde çalışan 1.200’den fazla kişi, hükümetin yapay zekâ geliştirme hızını düzenlemesini isteyen açık mektubu imzaladı.
🔹 Beyaz Saray, yapay zekâ şirketleriyle belirli modellerin piyasaya sürülmeden önce hükümet tarafından incelenmesini sağlayacak bir çerçeveyi görüştü.
🔹 Yapay zekâ ajanlarının insanlarla aynı zekâya ulaşmasını hedefleyen yapay genel zekâ konusunda çalışmalar sürüyor; ancak insan düzeyinde zekâya sahip ajanların ortaya çıkmasına hâlâ uzak bulunuluyor.