OPML: Verimli bir merkeziyetsizlik makine öğrenimi yöntemi
OPML(Optimistik Makine Öğrenimi), blok zinciri sistemlerinde AI model çıkarımı ve eğitimi/ince ayar yapmak için yeni bir yöntemdir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir. OPML'nin katılım eşiği çok düşüktür, sıradan bir PC, 26GB'lık 7B-LLaMA gibi büyük dil modellerini GPU olmadan çalıştırabilir.
OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için doğrulama oyun mekanizmasını kullanır. Süreç aşağıdaki gibidir:
Talep eden ML hizmet görevini başlatır.
Sunucu görevi tamamlar ve sonucu zincire gönderir
Doğrulayıcıların doğrulama sonuçları, itiraz olması durumunda doğrulama oyunu başlatılır.
İkili protokol aracılığıyla belirli hata adımlarını tespit etme
Akıllı sözleşme üzerinde adım adım tahkim yapmak
Tek Aşamalı Doğrulama Oyunu
Tek aşamalı doğrulama oyununun temeli, zincir dışı yürütme ve zincir içi tahkim için bir sanal makine (VM) inşa etmektir. AI modelinin çıkarım verimliliğini artırmak için, OPML hafif bir DNN kütüphanesi uygulamıştır ve Tensorflow ile PyTorch modellerini bu kütüphane formatına dönüştüren bir betik sağlamaktadır. Çapraz derleme ile, AI model çıkarım kodu VM talimatlarına derlenmektedir.
VM görüntüleri Merkle ağacı ile yönetilmektedir, sadece kök hash zincire yüklenir. İkili protokol, anlaşmazlık adımlarını belirlemeye yardımcı olur ve bunları zincir üzerindeki tahkim sözleşmesine gönderir. Testler, temel AI modelinin VM içinde çıkarım yapmak için yalnızca 2 saniyeye ihtiyacı olduğunu ve tüm meydan okuma sürecinin 2 dakika içinde tamamlanabileceğini göstermektedir.
Çok Aşamalı Doğrulama Oyunu
Tek aşamalı çözümün sınırlamalarını aşmak için, OPML çok aşamalı doğrulama oyunu önerdi:
Sadece son aşamada VM'de hesaplama yapın
Diğer aşamalar yerel ortamda çalıştırılabilir, CPU/GPU/TPU hızlandırması kullanarak
VM bağımlılığını azaltarak performansı önemli ölçüde artırma
Çok aşamalı plan, aşamalar arası dönüşümlerin bütünlüğünü ve güvenliğini sağlamak için Merkle ağacı kullanır.
LLaMA modelini örnek alarak, OPML iki aşamalı bir yöntem kullanır:
İkinci aşama, hesaplama grafiği üzerinde doğrulama oyunu gerçekleştirir, GPU hızlandırmasından yararlanabilir.
Birinci aşama, tekil düğüm hesaplamasını VM komutlarıyla yürütmeye dönüştürecektir.
Çok aşamalı OPML, tek aşamalıya göre α katı ( onlardan onlarla yüzlerce kat ) hız artışı sağlayabilirken, aynı zamanda Merkle ağacının boyutunu önemli ölçüde küçültmektedir.
Tutarlılık Garantisi
ML sonuçlarının tutarlılığını sağlamak için, OPML iki ana yöntem kullanır:
Yazılım tabanlı bir kayan nokta kütüphanesi kullanarak, çapraz platform tutarlılığını sağlamak
Bu teknolojiler, ondalık değişkenler ve platform farklılıklarının getirdiği zorlukları etkili bir şekilde aşarak OPML'nin güvenilirliğini artırmıştır.
OPML hala geliştirilmesine devam etmesine rağmen, büyük bir potansiyel gösterdi. Bu, blok zincirindeki makine öğrenimi için verimli, düşük maliyetli ve Merkeziyetsizlik sağlayan bir çözüm sunuyor, bu da endüstrinin sürekli dikkatini ve keşfini hak ediyor.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
12 Likes
Reward
12
6
Share
Comment
0/400
FloorSweeper
· 17h ago
Bu şey PC'de çalışabilir mi? Tamam!
View OriginalReply0
staking_gramps
· 17h ago
Oyun mekanizmasını doğrulamak harika!
View OriginalReply0
Ramen_Until_Rich
· 17h ago
Gel gel gel bu gerçekten umut vaadediyor.
View OriginalReply0
ForkItAllDay
· 17h ago
Sıradan bir bilgisayarın bunu çalıştırabilmesi gerçekten çok etkileyici.
OPML: Blok Zinciri üzerinde verimli düşük maliyetli Merkeziyetsizlik makine öğrenimi yeni çözümü
OPML: Verimli bir merkeziyetsizlik makine öğrenimi yöntemi
OPML(Optimistik Makine Öğrenimi), blok zinciri sistemlerinde AI model çıkarımı ve eğitimi/ince ayar yapmak için yeni bir yöntemdir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir. OPML'nin katılım eşiği çok düşüktür, sıradan bir PC, 26GB'lık 7B-LLaMA gibi büyük dil modellerini GPU olmadan çalıştırabilir.
OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için doğrulama oyun mekanizmasını kullanır. Süreç aşağıdaki gibidir:
Tek Aşamalı Doğrulama Oyunu
Tek aşamalı doğrulama oyununun temeli, zincir dışı yürütme ve zincir içi tahkim için bir sanal makine (VM) inşa etmektir. AI modelinin çıkarım verimliliğini artırmak için, OPML hafif bir DNN kütüphanesi uygulamıştır ve Tensorflow ile PyTorch modellerini bu kütüphane formatına dönüştüren bir betik sağlamaktadır. Çapraz derleme ile, AI model çıkarım kodu VM talimatlarına derlenmektedir.
VM görüntüleri Merkle ağacı ile yönetilmektedir, sadece kök hash zincire yüklenir. İkili protokol, anlaşmazlık adımlarını belirlemeye yardımcı olur ve bunları zincir üzerindeki tahkim sözleşmesine gönderir. Testler, temel AI modelinin VM içinde çıkarım yapmak için yalnızca 2 saniyeye ihtiyacı olduğunu ve tüm meydan okuma sürecinin 2 dakika içinde tamamlanabileceğini göstermektedir.
Çok Aşamalı Doğrulama Oyunu
Tek aşamalı çözümün sınırlamalarını aşmak için, OPML çok aşamalı doğrulama oyunu önerdi:
Çok aşamalı plan, aşamalar arası dönüşümlerin bütünlüğünü ve güvenliğini sağlamak için Merkle ağacı kullanır.
LLaMA modelini örnek alarak, OPML iki aşamalı bir yöntem kullanır:
Çok aşamalı OPML, tek aşamalıya göre α katı ( onlardan onlarla yüzlerce kat ) hız artışı sağlayabilirken, aynı zamanda Merkle ağacının boyutunu önemli ölçüde küçültmektedir.
Tutarlılık Garantisi
ML sonuçlarının tutarlılığını sağlamak için, OPML iki ana yöntem kullanır:
Bu teknolojiler, ondalık değişkenler ve platform farklılıklarının getirdiği zorlukları etkili bir şekilde aşarak OPML'nin güvenilirliğini artırmıştır.
OPML hala geliştirilmesine devam etmesine rağmen, büyük bir potansiyel gösterdi. Bu, blok zincirindeki makine öğrenimi için verimli, düşük maliyetli ve Merkeziyetsizlik sağlayan bir çözüm sunuyor, bu da endüstrinin sürekli dikkatini ve keşfini hak ediyor.