“Ajanınızı Tanıyın”, yapay zekâ çağının yeni kuralı olacak
Financial Times
🔹 Bankaların kara para aklamayı önlemek için uyguladığı “Müşterini Tanı” kurallarının yerini, bireylerin ve şirketlerin yapay zekâ ajanlarını tanımasını gerektiren “Ajanını Tanı” yaklaşımı alabilir.
🔹 Çok adımlı hedefleri minimum insan müdahalesiyle gerçekleştirmek üzere tasarlanan yapay zekâ ajanları, birçok şirket tarafından geniş ölçekte kullanılmaya başlandı.
🔹 Deloitte verilerine göre şirketlerin yüzde 23’ü yapay zekâ ajanlarını hâlihazırda kullanıyor; yüzde 74’ü ise önümüzdeki iki yıl içinde bu sistemleri kullanmayı planlıyor.
🔹 Meta’nın market alışverişi yapabilen ve seyahat rezervasyonu düzenleyebilen kişisel yapay zekâ ajanı Muse yoğun ilgi görüyor.
🔹 Yapay zekâ ajanlarının yaygınlaşması üç temel sorun yaratıyor: Ajanların etkileşim sırasında kriptografik olarak tanımlanması, istenen şekilde davranmalarının sağlanması ve hatalı işlemlerde sorumluluğun belirlenmesi.
🔹 Avustralya’da bir yapay zekâ asistanı, bir çalışanın spor salonundaki popüler bir zaman dilimini rezerve etmek için diğer üyeleri bekleme listesinden çıkardı. Bu işlem çalışanın amacı değildi.
🔹 OpenAI’ın 700 ajanından oluşan bir grup, yapay zekâ platformu HuggingFace’e sızdı. Birden fazla ajanın etkileşime girmesi, kontrol ve güvenlik sorunlarını artırabilir.
🔹 Bir yapay zekâ ajanı yasaları ihlal eden, fiziksel zarara yol açan veya hassas kişisel ve ticari bilgileri açığa çıkaran bir işlem yaparsa sorumluluğun kime ait olacağı konusunda hukuki ve sigorta anlaşmazlıkları yaşanabilir.
🔹 Yapay zekâ ajanlarının kullanımındaki başarı, yönetişime ve sistemleri besleyen verilerin kalitesine bağlıdır. Bireylerin ve şirketlerin tüm ilke ve uygulamaları, sistemlerin kullandığı verilere yansımayabilir.
🔹 Semarchy Teknoloji Direktörü Craig Gravina, yapay zekâ ajanlarının başlangıçta etkili görünen ancak uzun vadede başarısız olan yazılım “anti-pattern” sorunlarını tekrarlayabileceğini söyledi.
🔹 Yapay zekâ ajanlarının tek bir sorunu çözmek üzere optimize edilmesi, daha geniş çalışma bağlamının anlaşılmaması halinde başka sorunlara yol açabilir. Ajanların eğitimi, sahip olacakları ayrıcalıklar ve hassas verilere erişimleri insan çalışanlarda olduğu gibi belirlenmeli.




