Bilgi İşlem Gücü kaynaklarının kıt olduğu büyük model savaşı

Büyük model çoğalmasının yükselişi, bilgi işlem gücünü yeni bir iş modeli haline getirdi. Ancak sektör, yüksek uç GPU kıtlığı ve maliyetlerin yüksekliği gibi zorluklarla karşı karşıya. Bu dalga nihayetinde sona erse de, bilgi işlem gücü sağlayıcıları önceden tedbir almalı ve zamanında dönüşüm gerçekleştirmelidir.

Bilgi İşlem Gücü açığı ne kadar büyük?

Yüksek kaliteli GPU'ların yetersizliği, sektör tarafından kabul edilen bir sorun haline geldi. Zirve döneminde, bir NVIDIA A100'ün fiyatı 200,000-300,000 yuan'a kadar yükseldi, tek bir A100 sunucunun aylık kirası da 50,000-70,000 yuan'a ulaştı. Buna rağmen, bazen çipleri elde etmek hala zor olabiliyor. Bazı bilgi işlem gücü tedarikçileri, tedarikçilerin sözlerini tutmaması gibi durumlarla karşılaştı.

Bulut bilişim sektörünün üst düzey yöneticisi Zhou Lijun, müşterilerin yüksek kaliteli GPU kaynaklarına olan talebinin güçlü olmasına rağmen, mevcut arzın pazar talebini tamamen karşılayamadığını belirtti.

Sektör uzmanları, şu anda piyasada toplam yaklaşık 100,000 GPU bulunduğunu ve firmaların pazar paylarını değerlendirmek için "mal" biriktirdiğini tahmin ediyor. Bazı haberler, bir şirketin yıl sonu itibarıyla 40,000 GPU bulundurabileceğini ve bu miktarın %20 pazar payına tekabül edebileceğini bildiriyor.

Büyük model eğitimi maliyetlidir. Örneğin, Pangu Meteoroloji büyük modelinin sadece eğitim maliyeti 2 milyon yuanı aşmaktadır. Daha büyük parametreli genel büyük modeller için maliyet bu rakamın 10-100 katı olabilir. Tencent Grubu Başkan Yardımcısı Qiu Yuepeng, on milyarlarca yuan yatırım yapılmadan büyük modelin sürdürülebilir bir şekilde geliştirilmesinin zor olduğunu açıkladı.

Şirketler nasıl tepki veriyor?

Karşılaşılan bilgi işlem gücü eksikliği nedeniyle, şirketler çeşitli stratejiler benimsiyor:

1. Yüksek kaliteli veriler kullanarak eğitim verimliliğini artırın
2. Altyapıyı optimize etmek, kilojoule seviyesinde kararlı çalışma sağlamak
3. Bilgi İşlem Gücü dağıtımını iyileştirerek, kaynak verimliliğini artırın
4. Bulut bilişimden süper bilgisayar mimarisine geçiş maliyetleri düşürür.
5. Yerli platformları Nvidia GPU yerine kullanın

Küçük ve orta ölçekli işletmeler kendi veri merkezlerini kurmakta zorlanıyor, bu yüzden profesyonel bilgi işlem gücü hizmet sağlayıcılarını tercih ediyorlar. Kilokalori seviyesindeki GPU kümeleri ancak ölçek ekonomisine sahip olabilir, hizmet sağlayıcı seçimi marjinal maliyetleri düşürebilir.

Bilgi İşlem Gücü hizmeti yeni modeli

Bilgi İşlem Gücü hizmetleri yeni bir endüstri haline geliyor, genel bilgi işlem gücü, akıllı bilgi işlem gücü ve süper bilgi işlem gücü dahil. Bu sadece bilgi işlem gücü sağlamakla kalmaz, aynı zamanda depolama, ağ gibi kaynakları entegre eder ve hizmetleri API biçiminde teslim eder.

Bilgi İşlem Gücü endüstri zinciri üç katmandan oluşmaktadır:

• Üst akış: Temel kaynak tedarikçisi ( gibi Nvidia )
• Orta Seviye: Bulut Hizmeti Sağlayıcı, Bilgi İşlem Gücü Hizmeti Sağlayıcı
• Aşağı akış: sektör kullanıcıları

Büyük model şirketleri, bilgi işlem gücünü üç ana yöntemle kullanıyor: API çağrıları, kendi küçük modellerini oluşturma ve bulut sağlayıcılarıyla işbirliği.

İş Modeli Evrimi

Mevcut ana faturalama modları arasında kullanılan miktar üzerinden faturalama ve yıllık/aylık paket bulunmaktadır. Kullanıcılar GPU örneklerini veya MaaS platformu hizmetlerini seçebilir.

Sektör, "hesaplama ve ağ entegrasyonunu" ilerletiyor, mimari, coğrafi ve servis sağlayıcılar arasında kaynak yönetimini sağlıyor. Bulut hizmet sağlayıcıları da bilgi işlem gücü hizmetlerini benzersiz bir ürün olarak sunacak.

2022 yılında Çin'in toplam bilgi işlem gücü 180 EFLOPS'a ulaştı, sektör büyüklüğü 1.8 trilyon yuan. Büyük modeller, bilgi işlem endüstrisinin gelişimini hızlandırdı.

Bazı görüşlere göre, mevcut bilgi işlem gücü hizmetleri yeni bir "elektrik satışı" modeli gibidir, ancak daha fazla sistem optimizasyonu ve işletme hizmeti sunulması gerekebilir.

Talebin normalleşmesiyle birlikte, bilgi işlem gücü hizmetleri benzersiz bir endüstri zinciri ve iş modeli oluşturdu. Günümüzdeki ana rekabet noktası, tedarik zincirinin GPU kapasitesini elde etmesidir. Ancak, uzun vadeli araştırmacılar genellikle beklemeyi tercih ediyor, çünkü esasen girişim şirketleri kaynakları kapmaya çalışıyor.

Gelecekte Bilgi İşlem Gücü hizmetleri trendleri netleşiyor, hizmet sağlayıcılar önceden önlem almalı ve piyasa değişikliklerine hazırlıklı olmalıdır.