Yapay zekâ sektörü çalışanları, yerel yönetimler güvenlik endişelerini ele alırken New York Belediye Meclisi’ni uyardı
Associated Press
🔹 Anthropic, OpenAI ve Google DeepMind’dan ayrılan çalışanlar, New York Belediye Meclisi’ndeki duruşmada yapay zekâ şirketlerinde kontrol edilemeyen teknolojiler geliştirme yarışı yaşandığını söyledi.
🔹 Eski Anthropic mühendisi Jacob Coxon, şeffaflık ve güvenlik önlemleri olmadan yapay zekânın kontrolden çıkmasının daha olası olduğunu söyledi. Coxon, mevcut yolun insanlığın yapay zekâların kontrolünü kaybetmesine ve insan neslinin tükenmesine yol açabileceğini belirtti.
🔹 Coxon’un uyarılarının ardından Anthropic Üst Yöneticisi Dario Amodei, OpenAI Üst Yöneticisi Sam Altman ve SpaceXAI Üst Yöneticisi Elon Musk, yapay zekâ geliştirme sürecinin yavaşlatılması gerektiğini söyledi.
🔹 OpenAI, Anthropic, Google ve Meta çalışanları, şirketlerin yapay zekâ sistemlerinin insanların günlük yaşamını iyileştirdiğini ve güvenliğe odaklandığını söyledi.
🔹 OpenAI temsilcisi Morgan Dwyer, şirketin yapay zekânın güvenli geliştirilmesi ve faydalarının geniş biçimde paylaşılması taahhüdünü paylaştığını söyledi.
🔹 Dwyer, yapay zekânın felaket yaratma riskinin yüzde 1, 10 veya 20 olmasının kabul edilebilir olmadığını ve insan denetiminde tutulabileceği güçlü biçimde kanıtlanamayan modellerin eğitilmemesi gerektiğini söyledi.
🔹 New York Belediye Meclisi, şirketlerin yapay zekâ araçları hakkında bilgi açıklamasını, kentte kullanılacak sistemler için üçüncü taraf onayı alınmasını ve yasa ihlali yapan şirketlerin cezalarından ihbarcılara pay verilmesini öngören düzenlemeleri değerlendiriyor.
🔹 New York Valisi Kathy Hochul, yapay zekâ konusunda raporlama ve şeffaflık standartları getirmeye yöneldi. Benzer adımlar atan eyalet yöneticilerinin yetkileri, teknolojinin eyalet sınırlarını ve ülkeleri aşabilmesi nedeniyle sınırlı kalabilir.
🔹 Anthropic temsilcisi Logan Graham, şirketin akıllı düzenlemeyi desteklediğini ve eyalet ile yerel yönetimlerin yapay zekâ çerçevelerinin geliştirilmesinde rolü bulunduğunu söyledi.