DeepSeek, Yapay Zekâ İşletme Maliyetlerini Düşürmek İçin Açık Kaynaklı Araç Tanıttı
Bloomberg
🔹 DeepSeek, yapay zekâ modellerini geniş ölçekte çalıştırmak için kullandığı DeepInfer yazılımını açık kaynak hâle getirdi.
🔹 DeepInfer, modellerin daha hızlı çalışmasını ve bilgi işlem kaynaklarını daha verimli kullanmasını sağlamak üzere tasarlandı.
🔹 DeepSeek, üretim yazılımını paylaşarak bilgi işlem maliyetlerini ve enerji kullanımını azaltmayı, yapay zekâyı daha erişilebilir hâle getirmeyi amaçlıyor.
🔹 DeepInfer şu anda DeepSeek’in V4.1-Flash modelini destekliyor; gelecekteki sistemler için desteğin de eklenmesi planlanıyor.
🔹 Yazılım, bulut ve barındırma şirketlerinin DeepSeek modellerini daha düşük maliyetli yöntemlerle çalıştırmasına imkân sağlayabilir.
🔹 Requesty Üst Yöneticisi Thibault Jaigu, yazılımın DeepSeek modellerini barındırmanın önündeki engelleri azalttığını, ancak bunun için hâlâ bilgi işlem gücü ve uzmanlık gerektiğini söyledi.

🔹 DeepInfer, yapay zekâ iş yüklerini farklı donanımlara dağıtan dağıtık çıkarım gibi teknikleri bir araya getiriyor; bu yöntemler modellerin daha kısa sürede daha fazla çıktı üretmesini ve çiplerden daha yüksek performans alınmasını sağlayabilir.
🔹 Daha düşük çıkarım maliyetleri, yapay zekâ barındırma sağlayıcılarının kâr marjlarını artırabilir ve müşterilere daha düşük fiyatlar sunulmasına yol açabilir.
🔹 İşletmeler DeepInfer kullanarak DeepSeek modellerini kendi altyapılarında çalıştırma maliyetlerini azaltabilir.
🔹 DeepInfer’in verimlilik kazanımlarına ilişkin bağımsız bir kıyaslama henüz bulunmuyor.
🔹 Diğer geliştiriciler, açık kaynaklı yazılımı inceleyerek tekniklerini kendi çıkarım sistemlerine uyarlayabilir.







