OPML: um método eficiente de Descentralização em aprendizado de máquina
OPML(Aprendizado de Máquina Otimista) é um método inovador que permite a inferência e o treinamento/ajuste fino de modelos de IA em sistemas de blockchain. Em comparação com ZKML, o OPML tem vantagens em termos de baixo custo e alta eficiência. O limiar de participação do OPML é muito baixo, e PCs comuns podem executar grandes modelos de linguagem, como o 7B-LLaMA de 26GB, sem necessidade de GPU.
OPML adota um mecanismo de jogo de verificação para garantir a Descentralização e a verificabilidade dos serviços de ML. O processo específico é o seguinte:
O solicitante inicia uma tarefa de serviço ML
O servidor completa a tarefa e submete os resultados na cadeia.
Resultados de validação dos validadores, se houver contestações, iniciar o jogo de validação.
Localizar etapas de erro específicas através do protocolo de divisão
Realizar uma arbitragem passo a passo em contratos inteligentes
Jogo de Verificação de Uma Fase
O núcleo do jogo de verificação de uma única fase é construir uma máquina virtual (VM), para execução off-chain e arbitragem on-chain. Para melhorar a eficiência da inferência do modelo de IA, a OPML implementou uma biblioteca DNN leve e fornece scripts para converter modelos Tensorflow e PyTorch para o formato dessa biblioteca. Através da compilação cruzada, o código de inferência do modelo de IA é compilado em instruções da VM.
As imagens de VM são geridas através de uma árvore de Merkle, sendo apenas o hash raiz carregado na cadeia. O protocolo de divisão ajuda a localizar etapas de disputa e enviá-las para o contrato de arbitragem na cadeia. Testes mostraram que o modelo básico de IA leva apenas 2 segundos para inferir na VM, e todo o processo de desafio pode ser concluído em 2 minutos.
Jogo de Verificação de Múltiplas Fases
Para superar as limitações do esquema de uma única fase, a OPML propôs um jogo de validação em várias fases:
Apenas calcular na VM na fase final
Outras etapas podem ser executadas em ambiente local, utilizando aceleração CPU/GPU/TPU
Melhorar significativamente o desempenho ao reduzir a dependência de VM
O esquema de múltiplas fases garante a integridade e segurança das transições entre fases através da árvore de Merkle.
Usando o modelo LLaMA como exemplo, a OPML adota um método em duas fases:
A segunda fase realiza um jogo de validação sobre o gráfico computacional, podendo utilizar GPU para aceleração.
A primeira fase converte o cálculo de um único nó em execução de instruções de VM.
A OPML de múltiplas fases pode alcançar uma aceleração de α vezes de dezenas a centenas de vezes ( em comparação com a de uma única fase, ao mesmo tempo que reduz significativamente o tamanho da árvore de Merkle.
Para garantir a consistência dos resultados do ML, o OPML utiliza dois métodos chave:
Utilizar algoritmos de ponto fixo ) para tecnologia de quantização (, reduzindo erros de arredondamento de ponto flutuante.
Adotar uma biblioteca de ponto flutuante baseada em software, garantindo consistência entre plataformas
Estas tecnologias superaram efetivamente os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a confiabilidade do OPML.
OPML embora ainda esteja em desenvolvimento, já demonstrou um enorme potencial. Ele oferece uma solução eficiente, de baixo custo e com Descentralização para aprendizado de máquina na blockchain, merecendo a contínua atenção e exploração da indústria.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
12 gostos
Recompensa
12
6
Partilhar
Comentar
0/400
FloorSweeper
· 17h atrás
Isso consegue rodar no PC? Vamos lá!
Ver originalResponder0
staking_gramps
· 17h atrás
Verificar o mecanismo do jogo é muito bom.
Ver originalResponder0
Ramen_Until_Rich
· 17h atrás
Vem, vem, vem, isto realmente tem potencial.
Ver originalResponder0
ForkItAllDay
· 17h atrás
Um computador comum consegue fazer isso, é incrível!
OPML: Nova solução de aprendizado de máquina descentralizada, eficiente e de baixo custo na cadeia.
OPML: um método eficiente de Descentralização em aprendizado de máquina
OPML(Aprendizado de Máquina Otimista) é um método inovador que permite a inferência e o treinamento/ajuste fino de modelos de IA em sistemas de blockchain. Em comparação com ZKML, o OPML tem vantagens em termos de baixo custo e alta eficiência. O limiar de participação do OPML é muito baixo, e PCs comuns podem executar grandes modelos de linguagem, como o 7B-LLaMA de 26GB, sem necessidade de GPU.
OPML adota um mecanismo de jogo de verificação para garantir a Descentralização e a verificabilidade dos serviços de ML. O processo específico é o seguinte:
Jogo de Verificação de Uma Fase
O núcleo do jogo de verificação de uma única fase é construir uma máquina virtual (VM), para execução off-chain e arbitragem on-chain. Para melhorar a eficiência da inferência do modelo de IA, a OPML implementou uma biblioteca DNN leve e fornece scripts para converter modelos Tensorflow e PyTorch para o formato dessa biblioteca. Através da compilação cruzada, o código de inferência do modelo de IA é compilado em instruções da VM.
As imagens de VM são geridas através de uma árvore de Merkle, sendo apenas o hash raiz carregado na cadeia. O protocolo de divisão ajuda a localizar etapas de disputa e enviá-las para o contrato de arbitragem na cadeia. Testes mostraram que o modelo básico de IA leva apenas 2 segundos para inferir na VM, e todo o processo de desafio pode ser concluído em 2 minutos.
Jogo de Verificação de Múltiplas Fases
Para superar as limitações do esquema de uma única fase, a OPML propôs um jogo de validação em várias fases:
O esquema de múltiplas fases garante a integridade e segurança das transições entre fases através da árvore de Merkle.
Usando o modelo LLaMA como exemplo, a OPML adota um método em duas fases:
A OPML de múltiplas fases pode alcançar uma aceleração de α vezes de dezenas a centenas de vezes ( em comparação com a de uma única fase, ao mesmo tempo que reduz significativamente o tamanho da árvore de Merkle.
![OPML:采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(
![OPML:采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(
Garantia de Consistência
Para garantir a consistência dos resultados do ML, o OPML utiliza dois métodos chave:
Estas tecnologias superaram efetivamente os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a confiabilidade do OPML.
OPML embora ainda esteja em desenvolvimento, já demonstrou um enorme potencial. Ele oferece uma solução eficiente, de baixo custo e com Descentralização para aprendizado de máquina na blockchain, merecendo a contínua atenção e exploração da indústria.
![OPML:采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(