DeepSeek kendi yapay zeka çipini geliştiriyor

Çinli yapay zeka şirketi DeepSeek, Nvidia ve Huawei ürünlerine bağımlılığını azaltmak amacıyla kendi yapay zeka çipini geliştirmek için çalışma yürütüyor. Şirket ayrıca, çip altyapısı üzerindeki yükü hafifleten ve işlem hızını yüzde 85 oranında artıran DSpark adlı yeni bir spekülatif kod çözme çerçevesi yayımladı.

Çinli yapay zeka şirketi DeepSeek, kendi yapay zeka çipini geliştirmek üzere çalışma yürütüyor. Konuya vakıf kaynaklar, bu adımın şirketin Nvidia ve Huawei çiplerine olan bağımlılığını azaltmayı hedeflediğini bildirdi.

Reuters ajansına konuşan kaynaklar, geliştirilmekte olan yeni çipin yeni yapay zeka modellerinin eğitilmesi amacıyla değil, mevcut modellerin çalıştırılması, yani çıkarım işlemleri için kullanılmak üzere tasarlandığını aktardı.

Çin’in yapay zekadaki öncülerinden biri kabul edilen şirketin yarı iletken sektörüne girmesi, yerli pazarda Huawei ile doğrudan rekabete yol açabilir. Huawei, Nvidia’nın en gelişmiş çiplerinin gerisinde kalmasına rağmen, ABD’nin uyguladığı ihracat kısıtlamaları sayesinde Çin’de 50 milyar dolarlık bir yapay zekâ çipi sektörü hacmine ulaşmıştı. Ancak Alibaba ve Baidu gibi diğer Çinli teknoloji devlerinin de kendi yapay zekâ çiplerini üretmesi Huawei’nin pazar payını kaybetmesine neden oldu.

DeepSeek, daha önce geliştirdiği düşük maliyetli iki yapay zeka modeliyle küresel alanda adını duyurmuş ve ABD’li teknoloji şirketleri ile siyasetçilerin beklentilerinin ötesinde bir atılım gerçekleştirmişti.

DSpark altyapısıyla işlem hızı arttı

Şirket, amiral gemisi niteliğindeki V4 modelinin yapay zeka yanıt üretimini hızlandırmak amacıyla önemli bir güncelleme yayımladı.

DeepSeek, DSpark adını verdiği spekülatif kod çözme çerçevesi sayesinde kullanıcı başına yanıt hızını yüzde 85 oranında artırdığını duyurdu. Bu verimlilik artışı, yapay zeka sistemlerinin daha büyük ve güçlü çip altyapılarına olan ihtiyacını azaltabilir.

Yapay zeka modellerinin geleneksel olarak kelime kelime çıktı üretmesinin, yanıtlar uzadığında yavaşlamaya yol açtığı biliniyor. Şirket cumartesi günü yayımladığı araştırma raporunda, bu durumun grafik işlem birimlerinin (GPU) düşük kapasiteyle çalışmasına neden olduğunu ve kullanıcıların bekleme süresini uzatarak yapay zeka hizmetlerindeki en büyük tıkanıklığı oluşturduğunu paylaştı.

DSpark modülü, yanıt üretimi sırasında hafif bir taslak model kullanarak aday yanıtlar üretiyor, ardından bu yanıtları daha büyük bir modelle toplu halde doğrulayarak süreci hızlandırıyor. Yarı otoregresif üretim yöntemiyle geliştirilen bu teknik, modelin tek bir kelime yerine küçük gruplar halinde çıktı vermesine olanak tanıyor.

Sistem ayrıca, bilgi işlem talebine göre doğrulama sıklığını dinamik olarak ayarlayan güven tabanlı bir zamanlama mekanizması barındırıyor. Bilgi işlem talebi düşükken çipleri tam kapasite kullanmak için daha sık denetim uygulanıyor, talep yüksek olduğunda ise hızlı çıktı sağlamak amacıyla denetim sayısı azaltılıyor.

Pekin merkezli programcı Huang Yong, bu yeni tekniğin yapay zeka sistemlerini çalıştırmak için gereken bilgi işlem kaynaklarını azaltabileceğini ifade etti. Yong, yüzde 85’e varan verimlilik artışı sayesinde, daha önce 100 kullanıcı sorgusunu işleyen tek bir grafik işlemcinin artık yaklaşık 185 sorguyu yanıtlayabileceğini belirtti.

Çip kısıtlamalarına karşı yazılım çözümü

DSpark, yapay zeka modelinin genel yeteneklerini doğrudan artırmasa da ABD’nin gelişmiş yarı iletkenlere erişimi kısıtladığı bir dönemde, DeepSeek’in daha az güçlü çip altyapısı üzerinde sistem verimliliğini artırmaya yönelik son çalışması olarak öne çıkıyor.

DeepSeek bu çerçeveyi Google DeepMind’ın Gemma ve Alibaba Group’un Qwen modelleri de dahil olmak üzere çeşitli açık kaynaklı modeller üzerinde test etti. Bu durum, DSpark’ın sağladığı iyileştirmelerin, büyük bilgi işlem yatırımı yapmadan yüksek performans hedefleyen diğer şirketler tarafından da geniş çapta uygulanabileceğini gösteriyor.

Pekin Üniversitesi ile ortaklaşa geliştirilen DSpark araştırmasının kaynak kodları, yazılım geliştirme platformu GitHub ve HuggingFace üzerinden açık kaynaklı olarak paylaşıldı.

Bu gelişme, Çinli yapay zeka geliştiricilerinin daha güçlü modelleri daha ucuz ve hızlı şekilde sunma konusunda baskıyla karşılaştığı bir dönemde gerçekleşti. Çinli modeller genel yeteneklerini geliştirirken, rekabet artık bilgi işlem maliyetlerini düşürmeyi amaçlayan çıkarım optimizasyonuna kaydı.

Küresel yapay zeka sektöründeki büyüme, grafik işlemcilerden bellek çiplerine kadar donanım altyapısına olan talebi ve fiyatları artırırken, verimlilik kazanımlarını kritik hale getiriyor.

DeepSeek’in bu adımından önce, Tencent Holdings de yetersiz donanım üzerinde yapay zeka sistemlerinin geniş ölçekli dağıtımında çıkarım verimliliğinin büyük bir engel oluşturduğunu açıklamıştı. Tencent, çıktı hızını artırmak için bellek önbelleğe alma gibi bir dizi mühendislik çalışması yürüttüğünü duyurmuştu.

Xiaomi’nin yapay zeka ekibi de bu ayın başlarında MiMo-V2.5-Pro-UltraSpeed modeli için çıktı hızını saniyede 1.000 kelimenin üzerine çıkararak sektördeki en hızlı değerlerden birine ulaştıklarını açıklamıştı.