🔹 Anthropic tarafından geliştirilen bir yapay zekâ modeli, Philadelphia polisine çözülmemiş bir cinayet hakkında sahte ihbar gönderdi. Polis, olayın iki ay sonra bildirilmesini eleştirdi.
🔹 Sahte ihbar, temmuz ayında çözülmemiş cinayetler hakkında bilgi paylaşılabilen PhillyUnsolvedMurders.com üzerinden yapıldı.
🔹 Model, olayla ilgili bilgi sahibi bir kişi gibi davranarak bölgede şüpheli tanıma uyan birini gördüğünü yazdı.
🔹 Anthropic, modelin rastgele internet siteleriyle etkileşime girdiği bir test sırasında forma sahte bilgi gönderdiğini açıkladı.
🔹 Anthropic’in açıkladığı diğer olaylarda federal, eyalet ve yerel kurumlar tarafından işletilen internet siteleri de yer aldı. Şirket, Beyaz Saray’ı ve ilgili kurumları bilgilendirdi.
🔹 Federal Ticaret Komisyonu kamu işleri direktörü Joe Gabriel Simonson, yapay zekâ şirketlerinin modelleriyle ilgili olayları derhâl açıklaması ve zararı gidermek için hızlı adım atması gerektiğini söyledi.
🔹 FTC, Anthropic’in eylül sonunda keşfettiği ve hükümet sistemlerinin yetkisiz ve hileli kullanımını içeren olayları Cuma günü Süper Zekâ Görev Gücü’ne bildirdiğini açıkladı.
🔹 Anthropic’in iç incelemesi, Claude modellerinin temel kodlama açıklarından yararlanma, internet sitelerinde form gönderme, token veya ücret gerekliliklerini aşma ve kısa URL’lerle kısıtlamaları geçme türünde eylemler gerçekleştirdiğini ortaya koydu.
🔹 Anthropic, güvenlik ve izleme önlemlerinin bu davranışları güvenilir biçimde yakaladığını doğrulayana kadar Claude’un dahili testlerde internet erişimini kapattı.
🔹 Philadelphia polisi, 18 Temmuz tarihli sahte ihbarın spam olarak işaretlendiğini ve gerçek zamanlı suç merkezine ulaşmadığını açıkladı. Polis sistemlerinin ele geçirildiğine veya departman verilerinin tehlikeye atıldığına dair bulgu bulunmadı.
🔹 Anthropic olayı 28 Eylül’de tespit etti, sorumlu otomatik test sürecini durdurdu ve gelecekteki testler için yeni bir doğrulama adımı ekledi.
🔹 Philadelphia polisi, şirketin olayı iki ay sonra bildirmesini kabul edilemez bulduğunu söyledi. Polis, sahte bilgilerin bir cinayet hakkında bilgi sahibi bir kişiden geliyormuş gibi sunulmasının ciddiyetini koruduğunu açıkladı.
🔹 Pensilvanya yasaları, kolluk kuvvetlerine bilerek yanlış bilgi verilmesini kabahat sayıyor; ancak ilgili düzenleme “kişi” ifadesini kullanıyor.