Kendi kendini çoğaltan “yapay zekâ solucanları” nedir ve Anthropic neden endişeli?
Guardian
🔹 Anthropic’in saldırı araştırma ekibi, internete bağlı akıllı televizyonlar arasında otonom biçimde yayılan kötü amaçlı bir yapay zekâ programı oluşturdu. Program, kendisini 15 televizyona bölerek her cihazın işlem gücünün bir kısmını kullandı.
🔹 Yapay zekâ solucanları, insanları kandırmadan yayılan ve kendini çoğaltan bilgisayar virüsleri olarak tanımlanıyor. Önceki solucan saldırıları arasında 1988’deki Morris, Stuxnet, NotPetya ve WannaCry bulunuyor.
🔹 Anthropic ekibi, akıllı cihazların telefon ve dizüstü bilgisayarlara kıyasla daha seyrek güncellenmesi nedeniyle bu tür solucanların durdurulmasının daha zor olabileceğini belirtti. Yapay zekâ solucanları, yeni açıklanan güvenlik açıklarını araştırarak farklı donanımlara uyum sağlayabilir.
🔹 Ariel Herbert-Voss, yapay zekâ modellerinin çalışırken öğrenebilmesinin bu solucanları geleneksel çoğalan virüslerden ayırdığını söyledi. Siber güvenlik ekiplerinin bu tehditlerle mücadele etmek için daha fazla kaynağa ihtiyacı olduğunu belirtti.
🔹 Anthropic araştırmacıları, başarılı bir yapay zekâ solucanının daha az güçlü cihazlarda mevcut olandan daha yüksek kapasiteye ihtiyaç duyacağını, ancak mevcut eğilimlerin bunu yıl sonuna kadar mümkün kılabileceğini açıkladı.
🔹 Toronto Üniversitesindeki araştırmacıların birkaç ay önce yayımladığı çalışma, tam boyutlu bir bilgisayara bulaşan ve benzer bilgisayarlara televizyon tabanlı solucandan daha hızlı yayılabilen bir sistem ortaya koydu.
🔹 Jonas Guan ve diğer uzmanlar, Anthropic’in geliştirdiği sürümün çok yavaş hareket ettiğini ve solucanların öngörülebilir, tespit edilebilir eylemlerinin birden fazla katmanda engellenebileceğini söyledi. Güçlü parolalar ve iki faktörlü kimlik doğrulama, çoğu solucanı ve diğer saldırıları durdurabilir.
🔹 Juan Andres Guerrero-Saade, bu teknolojinin şu anda uygulanabilir veya etkili olmadığını söyledi. Anthropic, röportaj talebine yanıt vermedi.
🔹 Chris Inglis, yapay zekâ solucanlarının savunma ve diğer yararlı amaçlarla da kullanılabileceğini söyledi. ABD’de yapay zekâ üzerindeki denetim tartışmaları sürerken Kongre’de birbiriyle çelişen yasa tasarıları bulunuyor ve Beyaz Saray yalnızca küçük bir inceleme kurulu oluşturdu.
🔹 Gadi Evron, yapay zekâ şirketlerinin yaptığı uyarıların yetersiz kaldığını ve yapay zekâ kaynaklı tehditlerin hiçbir kurum tarafından tamamen durdurulamayacağını söyledi.