Çin yapay zekada yetenek sunumundan üretim altyapısını açmaya geçiyor

Çinli yapay zeka girişimi DeepSeek, büyük dil modellerinde bilgi işlem maliyetlerini ve güç tüketimini düşürmek amacıyla geliştirdiği DeepInfer çıkarım altyapısını açık kaynak olarak kullanıma sundu. Sistem çatısı altındaki tek bir küme günde 155 trilyon belirteç işlerken, hem NVIDIA hem de Huawei donanımlarında çalışabiliyor.

Çinli yapay zeka girişimi DeepSeek, geniş ölçekli çıkarım süreçlerinde işlem gücü maliyetlerini ve enerji tüketimini azaltmak amacıyla geliştirdiği kurum içi çıkarım altyapısı DeepInfer’ı açık kaynak olarak paylaştı.

Salı günü WeChat hesabı üzerinden yapılan açıklamaya göre bu adım, yazılım geliştiricilerin ve işletmelerin yüksek hacimli yapay zeka operasyonlarında veri işleme hızını artırmalarını ve gecikme sürelerini düşürmelerini hedefliyor.

İsmi belirtilmeyen Çinli bir uzman, Global Times gazetesine verdiği demeçte, açık kaynaklı modellerden açık kaynaklı çıkarım altyapılarına geçişin önemli bir dönüşüme işaret ettiğini söyledi.

Uzmana göre Çinli teknoloji şirketleri “yetenekleri erişime açma” aşamasından “üretkenliği erişime açma” evresine geçiyor; bu da kurulum maliyetlerini düşürerek öncü modellerin sağlık, eğitim ve üretim gibi alanlarda pratik uygulamalara dönüşmesini kolaylaştırıyor.

DeepSeek, model eğitiminin yapay zekanın öğrenme süreci, çıkarımın ise bu bilginin insanlar için somut bir faydaya dönüştüğü aşama olduğunu belirtti.

Günümüzde geleneksel sınırları aşan devasa kullanıcı talepleri karşısında çıkarım altyapıları geniş bilgi işlem kümelerini koordine edip yönetirken, bu sistemlerin verimliliği doğrudan yapay zeka hizmetlerinin elektrik tüketimini ve işlem maliyetini belirliyor.

DeepInfer, yüksek performanslı çekirdekleri derinlemesine optimize edilmiş çıkarım motoruyla bir araya getiriyor.

Dağıtık çıkarım, tahmine dayalı kod çözme ve yapılandırılmış çıktı gibi özellikleri destekleyen sistem, hem NVIDIA hem de Huawei Ascend donanımları üzerinde çalışıyor.

Girişim, DeepInfer üzerinde inşa ettiği mimariyle DeepSeek V4.1 Flash modeli için yüksek işlem hacmine sahip ve düşük gecikmeli çıkarım hizmetlerini devreye aldı. Sistemdeki tek bir küme şu anda günde 155 trilyon belirteç (token) işliyor.

Şirket ayrıca ana akım büyük dil modeli arayüz protokolleri ile model belirteç dizileri arasında hızlı ve hatasız dönüşüm sağlayan üretim sınıfı deepseek-recipe bileşenini de açık kaynak haline getirdi.

Bu bileşenin işlem mantığı doğrudan resmi DeepSeek API mimarisiyle bütünüyle uyumlu çalışıyor ve üçüncü taraf kurulumların resmi sistemle tamamen aynı biçimde işlemesini sağlıyor.

Teknoloji ve Strateji Araştırma Enstitüsü Başkan Yardımcısı Chen Jing, Global Times gazetesine yaptığı açıklamada, DeepSeek’in modelleri geniş ölçekte sunma konusundaki mühendislik deneyimini paylaştığını ifade etti. Chen, bu adımın diğer geliştiricilerin yetenekleri daha düşük maliyet, daha yüksek hız ve istikrarlı bir deneyimle sunmalarına katkı verdiğini belirtti.

Daha önce büyük dil modellerini de açık kaynak olarak paylaşan şirketin attığı adımı değerlendiren Chen, “Daha önce paylaşılan ‘beyin’di; bu kez paylaşılan ise ‘montaj hattı, güç kaynağı ve kullanım kılavuzu’ oldu” dedi.

Uzman, açık kaynaklı modellerin küresel çapta yeniden üretim ve araştırma yapma eşiğini düşürdüğünü, açık kaynaklı çıkarım altyapısının ise kurulum maliyetlerini, enerji kullanımını ve gecikmeyi azaltarak süreci bir adım ileri taşıdığını kaydetti.

Çin’in geliştirdiği açık kaynaklı modeller, küresel yapay zeka inovasyon ekosisteminde belirleyici bir yer ediniyor.

Hugging Face raporuna göre Çin merkezli Moonshot AI’ın Kimi, Zhipu’nun GLM ve Alibaba’nın Qwen serisi modelleri, zeka endeksinde dünya genelinde ilk yedi arasına girerken ABD’deki kapalı kaynaklı öncü sistemlerle aradaki farkı istikrarlı biçimde kapatıyor.

Raporda, Çin’de aylık olarak yayımlanan modellerin parametre tavanının 754 milyar ile 2,78 trilyon arasında değiştiği belirtiliyor.

Kimi K3, sahip olduğu 2,78 trilyon parametreyle dünyanın en büyük açık kaynaklı modeli haline gelirken hem zeka hem de kodlama endeksinde küresel düzeyde ilk sırada yer alıyor.

Çin yönetimi, teknolojik liderlik yarışının ötesinde, yapay zekanın sunduğu kalkınma kazanımlarını paylaşmayı ve teknolojinin daha geniş kitleler ile işletmeler tarafından yaşam standartlarını yükseltmek amacıyla kullanılmasını hedeflediğini vurguluyor.

DeepSeek de yayımladığı metnin sonunda hedeflerini özetlerken, “Tamamen açık kaynaklı modeller, operatör kütüphaneleri ve çıkarım altyapılarıyla, yakın gelecekte dünya çapındaki yapay zeka hizmetlerinin kapsam ve kalitesinde eşi görülmemiş bir genişleme görmeyi; bu hizmetlerin daha adil, şeffaf ve güvenilir hale gelmesini bekliyoruz” değerlendirmesini yaptı.