OpenLedger Derinlik Araştırması: Veri Tabanlı, Model Kombinasyonuna Uygun Akıllı Ekonomi Kurmak
Bir, Giriş | Crypto AI'nın model katmanı sıçraması
Veri, model ve hesaplama gücü, AI altyapısının üç temel unsuru olup, biri olmadan diğeri olamaz. Geleneksel AI endüstrisinin altyapı evrimiyle benzer bir yol izleyen Crypto AI alanı da benzer aşamalardan geçmiştir. 2024'ün başlarında, piyasa bir süre merkeziyetsiz GPU projeleri tarafından domine edilmiştir ve genel olarak "hesaplama gücünü birleştirme" üzerine odaklanan yaygın bir büyüme mantığı vurgulanmıştır. 2025 yılına girerken, sektörün dikkati giderek model ve veri katmanına kaymaktadır, bu da Crypto AI'nın temel kaynak rekabetinden daha sürdürülebilir ve uygulama değeri olan orta katman inşasına geçiş yaptığını göstermektedir.
Genel Büyük Model (LLM) vs Özelleştirilmiş Model (SLM)
Geleneksel büyük dil modellerinin (LLM) eğitimi, büyük ölçekli veri setleri ve karmaşık dağıtık mimarilere yüksek derecede bağımlıdır, parametre ölçekleri genellikle 70B ile 500B arasında değişmektedir, bir kez eğitim maliyeti genellikle milyonlarca dolara kadar çıkmaktadır. SLM (Özelleştirilmiş Dil Modeli) ise, yeniden kullanılabilir temel bir modelin hafif ince ayar paradigmaları olarak, genellikle LLaMA, Mistral, DeepSeek gibi açık kaynaklı modeller üzerine inşa edilmekte, az sayıda yüksek kaliteli uzman verisi ve LoRA gibi tekniklerle bir araya getirilerek belirli alan bilgisine sahip uzman modelleri hızlı bir şekilde inşa etmekte, eğitim maliyetlerini ve teknik engelleri önemli ölçüde azaltmaktadır.
Dikkate değer bir nokta, SLM'nin LLM ağırlıklarına entegre edilmeyeceği, bunun yerine Agent mimarisi aracılığıyla çağrılar, eklenti sistemi dinamik yönlendirme, LoRA modülü sıcak takibi, RAG (retrieve-augmented generation) gibi yöntemlerle LLM ile işbirliği içinde çalışacağıdır. Bu mimari, LLM'nin geniş kapsamlı yeteneklerini korurken, ince ayar modülü ile profesyonel performansı artırarak son derece esnek bir kombinasyon akıllı sistem oluşturur.
Crypto AI'nin model katmanındaki değeri ve sınırları
Crypto AI projeleri temelde büyük dil modellerinin (LLM) çekirdek yeteneklerini doğrudan artırmada zorluk yaşar, bunun temel nedeni şudur:
Teknik engeller çok yüksek: Foundation Model'ı eğitmek için gereken veri ölçeği, hesaplama kaynakları ve mühendislik yetenekleri son derece büyük, şu anda yalnızca teknoloji devleri bu yeteneklere sahip.
Açık kaynak ekosisteminin sınırlamaları: Ana akım temel modeller LLaMA ve Mixtral açık kaynak olsa da, model atılımlarını gerçekten teşvik eden anahtar hala araştırma kurumları ve kapalı kaynak mühendislik sistemlerinde yoğunlaşıyor, zincir üzerindeki projelerin temel model katmanında katılım alanı sınırlı.
Ancak, açık kaynak temel modellerinin üzerinde, Crypto AI projeleri hâlâ özel dil modellerini (SLM) ince ayar yaparak ve Web3'ün doğrulanabilirliği ve teşvik mekanizmasını birleştirerek değer uzantısı gerçekleştirebilir. AI endüstri zincirinin "kenar arayüz katmanı" olarak iki temel yönde kendini gösterir:
Güvenilir doğrulama katmanı: Modelin oluşturulma yolu, veri katkısı ve kullanım durumunu zincir üzerinde kaydederek, AI çıktısının izlenebilirliğini ve değiştirilemezliğini artırır.
Teşvik Mekanizması: Yerel Token yardımıyla, veri yükleme, model çağrısı, akıllı ajan (Agent) yürütme gibi eylemleri teşvik etmek için, model eğitimi ve hizmetlerinin olumlu döngüsünü oluşturmak.
AI model türü sınıflandırması ve blok zinciri uyumluluk analizi
Bunlardan görülebileceği gibi, model tabanlı Crypto AI projelerinin uygulanabilir noktaları esasen küçük SLM'nin hafif ince ayarı, RAG mimarisinin zincir üzerindeki veri erişimi ve doğrulaması ile Edge modelinin yerel dağıtımı ve teşviki üzerinde yoğunlaşmaktadır. Blok zincirinin doğrulanabilirliği ve token mekanizmasıyla birleştiğinde, Crypto bu orta ve düşük kaynaklı model senaryolarına özel bir değer sunarak AI "arayüz katmanı"nın farklılaştırılmış değerini oluşturabilir.
Veri ve model tabanlı blockchain AI ağı, her bir veri ve modelin katkı kaynağını açık, değiştirilemez bir şekilde zincire kaydetme imkanı sunar, bu da veri güvenilirliğini ve model eğitiminin izlenebilirliğini önemli ölçüde artırır. Aynı zamanda, akıllı sözleşme mekanizması sayesinde, veriler veya modeller çağrıldığında otomatik olarak ödül dağıtımını tetikler, AI davranışlarını ölçülebilir, ticarete konu olabilen token değerine dönüştürerek sürdürülebilir bir teşvik sistemi oluşturur. Ayrıca, topluluk kullanıcıları token ile model performansını değerlendirmek, kuralların belirlenmesi ve iterasyonuna katılmak suretiyle merkeziyetsiz yönetim yapısını geliştirebilirler.
İki, Proje Özeti | OpenLedger'in AI Zincir Vizyonu
OpenLedger, veri ve model teşvik mekanizmalarına odaklanan az sayıda blockchain AI projesinden biridir. "Ödenecek AI" kavramını ilk kez ortaya koyarak, veri katkıcıları, model geliştiricileri ve AI uygulama geliştiricilerinin aynı platformda iş birliği yapmalarını ve gerçek katkılara göre zincir üzerinde gelir elde etmelerini teşvik eden adil, şeffaf ve birleştirilebilir bir AI çalışma ortamı oluşturmayı amaçlamaktadır.
OpenLedger, "veri sağlama"dan "model dağıtımı"na ve ardından "kâr paylaşımının çağrılması"na kadar tam bir zincir döngüsü sunar, temel modülleri şunlardır:
Model Fabrikası: Programlama gerektirmeden, açık kaynak LLM kullanarak LoRA ile ince ayar yapabilir, eğitim verebilir ve özel modelleri dağıtabilirsiniz;
OpenLoRA: Binlerce modelin bir arada varlığını destekler, talebe göre dinamik yükleme yapar, dağıtım maliyetlerini önemli ölçüde azaltır;
PoA (Atıf Kanıtı): Zincir üzerindeki çağrı kayıtları aracılığıyla katkı ölçümü ve ödül dağıtımı sağlanır;
Datanets: Dikey senaryolar için yapılandırılmış veri ağı, topluluk iş birliği ile inşa edilip doğrulanmıştır;
Model Teklif Platformu (Model Proposal Platform): Kombinlenebilir, çağrılabilir ve ödenebilir zincir içi model pazarı.
Yukarıdaki modüller aracılığıyla, OpenLedger veri odaklı, modelin birleştirilebilir olduğu bir "akıllı ajanın ekonomik altyapısını" inşa etti ve AI değer zincirinin zincir üzerinde yer almasını teşvik etti.
Ve blok zinciri teknolojisinin benimsenmesinde, OpenLedger OP Stack + EigenDA'yı temel alarak, AI modelleri için yüksek performanslı, düşük maliyetli ve doğrulanabilir veri ile sözleşme çalışma ortamı inşa etmiştir.
OP Stack üzerinde inşa edildi: Optimism teknoloji yığınına dayalı, yüksek işlem hacmi ve düşük maliyetli yürütme desteği;
Ethereum ana ağında işlem yapmak: İşlem güvenliğini ve varlık bütünlüğünü sağlamak;
EVM uyumlu: Geliştiricilerin Solidity tabanlı hızlı dağıtım ve genişletme yapmasını kolaylaştırır;
EigenDA, veri kullanılabilirliği desteği sağlar: depolama maliyetlerini önemli ölçüde düşürür ve verinin doğrulanabilirliğini güvence altına alır.
Daha alt düzeye odaklanan ve veri egemenliği ile "BOS'taki AI Ajansları" mimarisini vurgulayan genel amaçlı AI zincirine kıyasla, OpenLedger, veri ve model teşviklerine yönelik bir AI özel zinciri inşa etmeye daha fazla odaklanmıştır. Model geliştirme ve çağrısının zincir üzerinde izlenebilir, birleştirilebilir ve sürdürülebilir bir değer döngüsü oluşturmasını hedeflemektedir. Web3 dünyasında model teşvik altyapısıdır; model barındırma, kullanım ücretlendirmesi ve zincir üzerindeki birleştirilebilir arayüzlerle birleştirilerek "model varlık olarak" gerçekleştirme yolunu teşvik etmektedir.
Üç, OpenLedger'ın Temel Bileşenleri ve Teknik Mimarisi
3.1 Model Fabrikası, kod gerektirmeyen model fabrikası
ModelFactory, OpenLedger ekosisteminde yer alan büyük bir dil modeli (LLM) ince ayar platformudur. Geleneksel ince ayar çerçevelerinin aksine, ModelFactory tamamen grafik arayüzü ile çalışır, komut satırı araçlarına veya API entegrasyonuna ihtiyaç duymaz. Kullanıcılar, OpenLedger üzerinde yetkilendirilmiş ve onaylanmış veri setlerine dayanarak modellerini ince ayar yapabilirler. Veri yetkilendirmesi, model eğitimi ve dağıtımını entegre bir iş akışı ile gerçekleştirmiştir, ana süreçleri şunları içerir:
Veri erişim kontrolü: Kullanıcı veri talebi gönderir, sağlayıcı inceleyip onaylar, veriler otomatik olarak model eğitim arayüzüne entegre edilir.
Model Seçimi ve Yapılandırması: Ana akım LLM'leri (örneğin LLaMA, Mistral) destekler, GUI aracılığıyla hiper parametreleri yapılandırır.
Hafifletilmiş ince ayar: Dahili LoRA / QLoRA motoru, eğitim ilerlemesini gerçek zamanlı olarak gösterir.
Model değerlendirme ve dağıtım: Yerleşik değerlendirme araçları, dağıtım veya ekosistem paylaşım çağrısını dışa aktarmayı destekler.
Etkileşimli doğrulama arayüzü: Modelin soru-cevap yeteneğini doğrudan test etmeyi kolaylaştıran sohbet tarzı bir arayüz sunar.
RAG oluşturma izlenebilirliği: Kaynak alıntıları ile yanıt verin, güveni ve denetlenebilirliği artırın.
Model Factory sistemi, kimlik doğrulama, veri yetkilendirmesi, model ince ayarı, değerlendirme dağıtımı ve RAG izleme süreçlerini kapsayan altı ana modülden oluşmaktadır. Güvenli, kontrol edilebilir, gerçek zamanlı etkileşimli ve sürdürülebilir gelir sağlama özelliklerine sahip entegre bir model hizmet platformu oluşturur.
ModelFactory şu anda desteklenen büyük dil modeli yetenekleri tablosu aşağıdadır:
LLaMA Serisi: En geniş ekosistem, aktif topluluk ve güçlü genel performans ile mevcut en yaygın açık kaynak temel modellerden biridir.
Mistral: Verimli bir mimari ve mükemmel çıkarım performansı ile esnek dağıtım ve sınırlı kaynak senaryoları için uygundur.
Qwen: Çince görev performansı mükemmel, bütünsel yetenekleri güçlü, yerli geliştiriciler için tercih edilen.
ChatGLM: Çince konuşma performansı öne çıkıyor, dikey müşteri hizmetleri ve yerelleştirilmiş senaryolar için uygundur.
Deepseek: Kod üretimi ve matematiksel akıl yürütme konusunda üstün performans sergileyerek, akıllı geliştirme yardımcı araçları için uygundur.
Gemma: Google tarafından sunulan hafif bir modeldir, yapısı açıktır, hızlı bir şekilde öğrenmek ve denemeler yapmak kolaydır.
Falcon: Performans standartı olarak kabul edilen, temel araştırmalar veya karşılaştırma testleri için uygun, ancak topluluk aktivitesi azalmıştır.
BLOOM: Çok dilli desteği güçlü, ancak çıkarım performansı zayıf, dil kapsamlı araştırmalar için uygundur.
GPT-2: Klasik erken dönem model, yalnızca öğretim ve doğrulama amaçları için uygundur, gerçek kullanım için önerilmez.
OpenLedger'in model kombinasyonu en son yüksek performanslı MoE modellerini veya çok modlu modelleri içermese de, stratejisi demode değil; bunun yerine, zincir üzerindeki dağıtımın gerçek kısıtlamaları (çıkarım maliyeti, RAG uyumu, LoRA uyumluluğu, EVM ortamı) temelinde "pragmatik öncelik" konfigürasyonu yapılmıştır.
Model Factory, bir kodsuz araç zinciri olarak, tüm modeller katkı kanıtı mekanizması ile entegre edilmiştir ve bu, veri katkı sağlayıcılarının ve model geliştiricilerinin haklarını güvence altına alır. Düşük giriş engeli, paraya dönüştürülebilirlik ve birleştirilebilirlik gibi avantajlara sahip olup, geleneksel model geliştirme araçları ile karşılaştırıldığında:
Geliştiriciler için: Model kuluçka, dağıtım ve gelir için tam bir yol sunar;
Platform için: model varlıkların dolaşımını ve kombinasyon ekosistemini oluşturmak;
Kullanıcılar için: Modelleri veya Ajanı API çağrısı yapar gibi birleştirerek kullanabilirsiniz.
3.2 OpenLoRA, mikro ayar modelinin zincir üzerindeki varlıklaşması
LoRA (Düşük Sıralı Adaptasyon), önceden eğitilmiş büyük bir modele "düşük rütbeli matris" ekleyerek yeni görevleri öğrenmek için orijinal model parametrelerini değiştirmeden kullanılan verimli bir parametre ince ayar yöntemidir. Geleneksel büyük dil modellerinin genellikle on milyarlarca hatta yüz milyarlarca parametreye sahip olduğu bilinmektedir. Bunları belirli görevler için kullanmak amacıyla ince ayar yapılması gerekmektedir. LoRA'nın temel stratejisi şudur: "Orijinal büyük modelin parametrelerini dondurmak, yalnızca eklenen yeni parametre matrisini eğitmek." Bu yöntem, parametre verimliliği, hızlı eğitim ve esnek dağıtım özellikleri ile mevcut Web3 model dağıtımı ve birleşik çağrılar için en uygun ana akım ince ayar yöntemidir.
OpenLoRA, OpenLedger tarafından inşa edilen, çoklu model dağıtımı ve kaynak paylaşımı için özel olarak tasarlanmış hafif bir çıkarım çerçevesidir. Temel hedefi, mevcut AI model dağıtımında sık karşılaşılan yüksek maliyet, düşük yeniden kullanım, GPU kaynak israfı gibi sorunları çözmek ve "ödenebilir AI"nin (Payable AI) uygulanmasını teşvik etmektir.
OpenLoRA sistem mimarisi ana bileşeni, modüler tasarıma dayanarak, model depolama, çıkarım yürütme, istek yönlendirme gibi kritik aşamaları kapsayarak, verimli, düşük maliyetli çoklu model dağıtım ve çağırma yeteneği sağlar:
LoRA Adaptörü Depolama Modülü: İnce ayar yapılmış LoRA adaptörü OpenLedger üzerinde barındırılmakta, talebe göre yükleme sağlanmakta, tüm modellerin önceden belleğe yüklenmesini önleyerek kaynak tasarrufu yapmaktadır.
Model barındırma ve dinamik entegrasyon katmanı: Tüm ince ayar modelleri, temel büyük modelin ortak kullanımına sahiptir. Çıkarım sırasında LoRA adaptörü dinamik olarak birleştirilir, birden fazla adaptörün birleşik çıkarımını destekler, performansı artırır.
Çıkarım motoru: Flash-Attention, Paged-Attention, SGMV optimizasyonu gibi birçok CUDA optimizasyon teknolojisini entegre eder.
İstek yönlendirme ve akış çıktısı modülü: İstekteki gerekli modele göre doğru adaptöre dinamik olarak yönlendirme yaparak, token düzeyinde akış oluşturmayı optimize eden bir çekirdek ile gerçekleştirir.
OpenLoRA'nın çıkarım süreci, teknik açıdan "olgun ve genel" model hizmet süreci olarak kabul edilmektedir, aşağıda:
Temel model yükleniyor: Sistem, LLaMA 3, Mistral gibi temel büyük modelleri önceden yüklüyor.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
13 Likes
Reward
13
7
Share
Comment
0/400
LiquidatedDreams
· 6h ago
gpu evde çok kötü durumda, hala ai popülaritesinden mi yararlanıyor?
View OriginalReply0
AllInAlice
· 17h ago
Yine bir model kombinasyonu geldi, değerli öngörüler var mı?
View OriginalReply0
GasFeeBarbecue
· 07-12 04:26
Arbitrum'u kopyalamak, değil mi?
View OriginalReply0
TokenomicsTinfoilHat
· 07-12 04:24
AI zinciri, köpek bile oynamıyor.
View OriginalReply0
MEVSandwich
· 07-12 04:23
Yine yapay zeka trendini takip ederek bir konsept oluşturdu.
OpenLedger, veri odaklı AI zinciri inşa ederek model varlıklarını ve bileşen akıllı ekonomi yaratmayı gerçekleştiriyor.
OpenLedger Derinlik Araştırması: Veri Tabanlı, Model Kombinasyonuna Uygun Akıllı Ekonomi Kurmak
Bir, Giriş | Crypto AI'nın model katmanı sıçraması
Veri, model ve hesaplama gücü, AI altyapısının üç temel unsuru olup, biri olmadan diğeri olamaz. Geleneksel AI endüstrisinin altyapı evrimiyle benzer bir yol izleyen Crypto AI alanı da benzer aşamalardan geçmiştir. 2024'ün başlarında, piyasa bir süre merkeziyetsiz GPU projeleri tarafından domine edilmiştir ve genel olarak "hesaplama gücünü birleştirme" üzerine odaklanan yaygın bir büyüme mantığı vurgulanmıştır. 2025 yılına girerken, sektörün dikkati giderek model ve veri katmanına kaymaktadır, bu da Crypto AI'nın temel kaynak rekabetinden daha sürdürülebilir ve uygulama değeri olan orta katman inşasına geçiş yaptığını göstermektedir.
Genel Büyük Model (LLM) vs Özelleştirilmiş Model (SLM)
Geleneksel büyük dil modellerinin (LLM) eğitimi, büyük ölçekli veri setleri ve karmaşık dağıtık mimarilere yüksek derecede bağımlıdır, parametre ölçekleri genellikle 70B ile 500B arasında değişmektedir, bir kez eğitim maliyeti genellikle milyonlarca dolara kadar çıkmaktadır. SLM (Özelleştirilmiş Dil Modeli) ise, yeniden kullanılabilir temel bir modelin hafif ince ayar paradigmaları olarak, genellikle LLaMA, Mistral, DeepSeek gibi açık kaynaklı modeller üzerine inşa edilmekte, az sayıda yüksek kaliteli uzman verisi ve LoRA gibi tekniklerle bir araya getirilerek belirli alan bilgisine sahip uzman modelleri hızlı bir şekilde inşa etmekte, eğitim maliyetlerini ve teknik engelleri önemli ölçüde azaltmaktadır.
Dikkate değer bir nokta, SLM'nin LLM ağırlıklarına entegre edilmeyeceği, bunun yerine Agent mimarisi aracılığıyla çağrılar, eklenti sistemi dinamik yönlendirme, LoRA modülü sıcak takibi, RAG (retrieve-augmented generation) gibi yöntemlerle LLM ile işbirliği içinde çalışacağıdır. Bu mimari, LLM'nin geniş kapsamlı yeteneklerini korurken, ince ayar modülü ile profesyonel performansı artırarak son derece esnek bir kombinasyon akıllı sistem oluşturur.
Crypto AI'nin model katmanındaki değeri ve sınırları
Crypto AI projeleri temelde büyük dil modellerinin (LLM) çekirdek yeteneklerini doğrudan artırmada zorluk yaşar, bunun temel nedeni şudur:
Ancak, açık kaynak temel modellerinin üzerinde, Crypto AI projeleri hâlâ özel dil modellerini (SLM) ince ayar yaparak ve Web3'ün doğrulanabilirliği ve teşvik mekanizmasını birleştirerek değer uzantısı gerçekleştirebilir. AI endüstri zincirinin "kenar arayüz katmanı" olarak iki temel yönde kendini gösterir:
AI model türü sınıflandırması ve blok zinciri uyumluluk analizi
Bunlardan görülebileceği gibi, model tabanlı Crypto AI projelerinin uygulanabilir noktaları esasen küçük SLM'nin hafif ince ayarı, RAG mimarisinin zincir üzerindeki veri erişimi ve doğrulaması ile Edge modelinin yerel dağıtımı ve teşviki üzerinde yoğunlaşmaktadır. Blok zincirinin doğrulanabilirliği ve token mekanizmasıyla birleştiğinde, Crypto bu orta ve düşük kaynaklı model senaryolarına özel bir değer sunarak AI "arayüz katmanı"nın farklılaştırılmış değerini oluşturabilir.
Veri ve model tabanlı blockchain AI ağı, her bir veri ve modelin katkı kaynağını açık, değiştirilemez bir şekilde zincire kaydetme imkanı sunar, bu da veri güvenilirliğini ve model eğitiminin izlenebilirliğini önemli ölçüde artırır. Aynı zamanda, akıllı sözleşme mekanizması sayesinde, veriler veya modeller çağrıldığında otomatik olarak ödül dağıtımını tetikler, AI davranışlarını ölçülebilir, ticarete konu olabilen token değerine dönüştürerek sürdürülebilir bir teşvik sistemi oluşturur. Ayrıca, topluluk kullanıcıları token ile model performansını değerlendirmek, kuralların belirlenmesi ve iterasyonuna katılmak suretiyle merkeziyetsiz yönetim yapısını geliştirebilirler.
İki, Proje Özeti | OpenLedger'in AI Zincir Vizyonu
OpenLedger, veri ve model teşvik mekanizmalarına odaklanan az sayıda blockchain AI projesinden biridir. "Ödenecek AI" kavramını ilk kez ortaya koyarak, veri katkıcıları, model geliştiricileri ve AI uygulama geliştiricilerinin aynı platformda iş birliği yapmalarını ve gerçek katkılara göre zincir üzerinde gelir elde etmelerini teşvik eden adil, şeffaf ve birleştirilebilir bir AI çalışma ortamı oluşturmayı amaçlamaktadır.
OpenLedger, "veri sağlama"dan "model dağıtımı"na ve ardından "kâr paylaşımının çağrılması"na kadar tam bir zincir döngüsü sunar, temel modülleri şunlardır:
Yukarıdaki modüller aracılığıyla, OpenLedger veri odaklı, modelin birleştirilebilir olduğu bir "akıllı ajanın ekonomik altyapısını" inşa etti ve AI değer zincirinin zincir üzerinde yer almasını teşvik etti.
Ve blok zinciri teknolojisinin benimsenmesinde, OpenLedger OP Stack + EigenDA'yı temel alarak, AI modelleri için yüksek performanslı, düşük maliyetli ve doğrulanabilir veri ile sözleşme çalışma ortamı inşa etmiştir.
Daha alt düzeye odaklanan ve veri egemenliği ile "BOS'taki AI Ajansları" mimarisini vurgulayan genel amaçlı AI zincirine kıyasla, OpenLedger, veri ve model teşviklerine yönelik bir AI özel zinciri inşa etmeye daha fazla odaklanmıştır. Model geliştirme ve çağrısının zincir üzerinde izlenebilir, birleştirilebilir ve sürdürülebilir bir değer döngüsü oluşturmasını hedeflemektedir. Web3 dünyasında model teşvik altyapısıdır; model barındırma, kullanım ücretlendirmesi ve zincir üzerindeki birleştirilebilir arayüzlerle birleştirilerek "model varlık olarak" gerçekleştirme yolunu teşvik etmektedir.
Üç, OpenLedger'ın Temel Bileşenleri ve Teknik Mimarisi
3.1 Model Fabrikası, kod gerektirmeyen model fabrikası
ModelFactory, OpenLedger ekosisteminde yer alan büyük bir dil modeli (LLM) ince ayar platformudur. Geleneksel ince ayar çerçevelerinin aksine, ModelFactory tamamen grafik arayüzü ile çalışır, komut satırı araçlarına veya API entegrasyonuna ihtiyaç duymaz. Kullanıcılar, OpenLedger üzerinde yetkilendirilmiş ve onaylanmış veri setlerine dayanarak modellerini ince ayar yapabilirler. Veri yetkilendirmesi, model eğitimi ve dağıtımını entegre bir iş akışı ile gerçekleştirmiştir, ana süreçleri şunları içerir:
Model Factory sistemi, kimlik doğrulama, veri yetkilendirmesi, model ince ayarı, değerlendirme dağıtımı ve RAG izleme süreçlerini kapsayan altı ana modülden oluşmaktadır. Güvenli, kontrol edilebilir, gerçek zamanlı etkileşimli ve sürdürülebilir gelir sağlama özelliklerine sahip entegre bir model hizmet platformu oluşturur.
ModelFactory şu anda desteklenen büyük dil modeli yetenekleri tablosu aşağıdadır:
OpenLedger'in model kombinasyonu en son yüksek performanslı MoE modellerini veya çok modlu modelleri içermese de, stratejisi demode değil; bunun yerine, zincir üzerindeki dağıtımın gerçek kısıtlamaları (çıkarım maliyeti, RAG uyumu, LoRA uyumluluğu, EVM ortamı) temelinde "pragmatik öncelik" konfigürasyonu yapılmıştır.
Model Factory, bir kodsuz araç zinciri olarak, tüm modeller katkı kanıtı mekanizması ile entegre edilmiştir ve bu, veri katkı sağlayıcılarının ve model geliştiricilerinin haklarını güvence altına alır. Düşük giriş engeli, paraya dönüştürülebilirlik ve birleştirilebilirlik gibi avantajlara sahip olup, geleneksel model geliştirme araçları ile karşılaştırıldığında:
3.2 OpenLoRA, mikro ayar modelinin zincir üzerindeki varlıklaşması
LoRA (Düşük Sıralı Adaptasyon), önceden eğitilmiş büyük bir modele "düşük rütbeli matris" ekleyerek yeni görevleri öğrenmek için orijinal model parametrelerini değiştirmeden kullanılan verimli bir parametre ince ayar yöntemidir. Geleneksel büyük dil modellerinin genellikle on milyarlarca hatta yüz milyarlarca parametreye sahip olduğu bilinmektedir. Bunları belirli görevler için kullanmak amacıyla ince ayar yapılması gerekmektedir. LoRA'nın temel stratejisi şudur: "Orijinal büyük modelin parametrelerini dondurmak, yalnızca eklenen yeni parametre matrisini eğitmek." Bu yöntem, parametre verimliliği, hızlı eğitim ve esnek dağıtım özellikleri ile mevcut Web3 model dağıtımı ve birleşik çağrılar için en uygun ana akım ince ayar yöntemidir.
OpenLoRA, OpenLedger tarafından inşa edilen, çoklu model dağıtımı ve kaynak paylaşımı için özel olarak tasarlanmış hafif bir çıkarım çerçevesidir. Temel hedefi, mevcut AI model dağıtımında sık karşılaşılan yüksek maliyet, düşük yeniden kullanım, GPU kaynak israfı gibi sorunları çözmek ve "ödenebilir AI"nin (Payable AI) uygulanmasını teşvik etmektir.
OpenLoRA sistem mimarisi ana bileşeni, modüler tasarıma dayanarak, model depolama, çıkarım yürütme, istek yönlendirme gibi kritik aşamaları kapsayarak, verimli, düşük maliyetli çoklu model dağıtım ve çağırma yeteneği sağlar:
OpenLoRA'nın çıkarım süreci, teknik açıdan "olgun ve genel" model hizmet süreci olarak kabul edilmektedir, aşağıda: