Teknoloji şirketleri yapay zekâ kullanımını artırma döneminden maliyetleri azaltma dönemine geçti
New York Times
🔹 Teknoloji şirketleri, çalışanların yapay zekâ kullanımını teşvik ettikleri dönemin ardından artan maliyetler nedeniyle kullanım sınırları getirmeye başladı.
🔹 Yapay zekâ sistemlerinde kullanılan işlem birimleri olan "token" tüketimini artırmaya yönelik uygulamaların yerini artık token kullanımını azaltmaya odaklanan yeni yaklaşım aldı.
🔹 Meta ve Amazon, çalışanların token kullanımını gösteren şirket içi sıralama tablolarını kaldırdı.
🔹 Meta, yapay zekâ maliyetlerinde üstel artış görülmesi üzerine çalışanların kullanımına sınırlama getireceğini duyurdu.
🔹 Uber, yıllık yapay zekâ bütçesini dört ay içinde tüketmesinin ardından bazı kodlama araçlarına aylık kullanım limitleri koydu.
🔹 Walmart da farklı yapay zekâ araçları için çalışanlarına kullanım sınırları uygulamaya başladı.
🔹 Şirketler, yapay zekâ yatırımlarından beklenen verimin henüz net şekilde ortaya çıkmadığını değerlendiriyor.
🔹 OpenAI ve Anthropic gibi şirketler kurumsal müşterilerden yalnızca abonelik ücreti değil, çalışanların kullandığı token miktarına göre de ücret alıyor.
🔹 Basit görevler yüzlerce token tüketirken, yazılım geliştirme gibi karmaşık işlemler on binlerce token gerektirebiliyor.
🔹 Yapay zekâ ajanlarının saatler süren bağımsız çalışmaları nedeniyle bazı mühendislerin aylık token maliyetleri on binlerce dolara ulaşabiliyor.
🔹 Yeni nesil yapay zekâ modellerinin daha güçlü hale gelmesi kullanım maliyetlerini de artırıyor.
🔹 Şirketler artık en gelişmiş yapay zekâ modellerini yalnızca karmaşık görevlerde kullanıp, daha basit işlemler için düşük maliyetli modelleri tercih etmeye yöneliyor.
🔹 Uzmanlar, daha düşük seviyeli modeller kullanılarak yapay zekâ maliyetlerinde %90'a varan tasarruf sağlanabileceğini belirtiyor.
🔹 Salesforce, token kullanımını takip etmek yerine yapay zekâ tarafından tamamlanan iş miktarını ölçen yeni performans göstergeleri kullanmaya başladı.
🔹 Teknoloji şirketleri, yapay zekâ kullanım miktarından ziyade elde edilen iş sonuçlarına odaklanan yeni maliyet yönetim modelleri geliştirmeye çalışıyor.