OPML: un método de aprendizaje automático descentralizado eficiente
OPML(El aprendizaje automático optimista) es un método novedoso que permite realizar inferencias y entrenamientos/ajustes de modelos de IA sobre sistemas de blockchain. En comparación con ZKML, OPML tiene la ventaja de ser de bajo costo y alta eficiencia. La barrera de entrada para OPML es muy baja, una PC común puede ejecutar grandes modelos de lenguaje, como el 7B-LLaMA de 26GB, sin necesidad de GPU.
OPML utiliza un mecanismo de juego de verificación para garantizar la Descentralización y la verificabilidad de los servicios de ML. El proceso específico es el siguiente:
El solicitante inicia la tarea del servicio ML
El servidor completa la tarea y envía los resultados a la cadena.
Resultados de validación de los validadores, si hay objeciones, se inicia el juego de validación.
Localizar pasos de error específicos a través del protocolo de bifurcación
Realizar arbitraje paso a paso en contratos inteligentes
Juego de verificación de una sola etapa
El núcleo del juego de verificación de una sola etapa es construir una máquina virtual (VM), utilizada para la ejecución fuera de la cadena y el arbitraje en la cadena. Para mejorar la eficiencia de inferencia del modelo de IA, OPML ha implementado una biblioteca DNN ligera y proporciona scripts para convertir modelos de Tensorflow y PyTorch al formato de esta biblioteca. A través de la compilación cruzada, el código de inferencia del modelo de IA se compila en instrucciones de VM.
La imagen de VM se gestiona a través de un árbol de Merkle, solo se sube el hash raíz a la cadena. El protocolo de división ayuda a localizar los pasos en disputa y los envía al contrato de arbitraje en la cadena. Las pruebas indican que el modelo básico de IA solo necesita 2 segundos para inferir en la VM, y todo el proceso de desafío se puede completar en 2 minutos.
Juego de validación en múltiples etapas
Para superar las limitaciones del esquema de una sola etapa, OPML propuso el juego de verificación de múltiples etapas:
Solo se calcula en la VM en la etapa final
Otras etapas se pueden ejecutar en el entorno local, utilizando aceleración de CPU/GPU/TPU.
Mejora significativamente el rendimiento al reducir la dependencia de VM
El esquema de múltiples etapas asegura la integridad y seguridad de la transición entre etapas a través de un árbol de Merkle.
Tomando como ejemplo el modelo LLaMA, OPML utiliza un método de dos fases:
La segunda etapa consiste en la verificación del juego en el gráfico computacional, que puede ser acelerada mediante GPU.
La primera fase convertirá el cálculo de un solo nodo en la ejecución de instrucciones de VM
La OPML de múltiples etapas puede lograr una aceleración de decenas a cientos de veces ( en comparación con la de una sola etapa, al mismo tiempo que reduce significativamente el tamaño del árbol de Merkle.
Para garantizar la consistencia de los resultados de ML, OPML utiliza dos métodos clave:
Utilizar el algoritmo de punto fijo ) para la tecnología de cuantificación (, reduciendo el error de redondeo de punto flotante.
Utilizar una biblioteca de punto flotante basada en software para garantizar la consistencia entre plataformas
Estas tecnologías superan eficazmente los desafíos que presentan las variables de punto flotante y las diferencias de plataforma, lo que mejora la fiabilidad de OPML.
OPML aún está en desarrollo, pero ha mostrado un gran potencial. Ofrece una solución eficiente, de bajo costo y descentralizada para el aprendizaje automático en la blockchain, lo que merece la atención y exploración continuas de la industria.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
12 me gusta
Recompensa
12
6
Compartir
Comentar
0/400
FloorSweeper
· hace17h
¿Esto puede correr en PC? ¡Organízalo!
Ver originalesResponder0
staking_gramps
· hace17h
La mecánica del juego de verificación es genial.
Ver originalesResponder0
Ramen_Until_Rich
· hace17h
Ven, ven, ven, esto realmente tiene futuro.
Ver originalesResponder0
ForkItAllDay
· hace17h
¿No es increíble que incluso una computadora normal pueda ejecutar esto?
Ver originalesResponder0
StakeWhisperer
· hace17h
Avanzar a ser maltratado
Ver originalesResponder0
PessimisticLayer
· hace17h
De verdad, también se puede ejecutar en PC, genial.
OPML: Nueva solución de aprendizaje automático descentralizado eficiente y de bajo costo en la cadena de bloques.
OPML: un método de aprendizaje automático descentralizado eficiente
OPML(El aprendizaje automático optimista) es un método novedoso que permite realizar inferencias y entrenamientos/ajustes de modelos de IA sobre sistemas de blockchain. En comparación con ZKML, OPML tiene la ventaja de ser de bajo costo y alta eficiencia. La barrera de entrada para OPML es muy baja, una PC común puede ejecutar grandes modelos de lenguaje, como el 7B-LLaMA de 26GB, sin necesidad de GPU.
OPML utiliza un mecanismo de juego de verificación para garantizar la Descentralización y la verificabilidad de los servicios de ML. El proceso específico es el siguiente:
Juego de verificación de una sola etapa
El núcleo del juego de verificación de una sola etapa es construir una máquina virtual (VM), utilizada para la ejecución fuera de la cadena y el arbitraje en la cadena. Para mejorar la eficiencia de inferencia del modelo de IA, OPML ha implementado una biblioteca DNN ligera y proporciona scripts para convertir modelos de Tensorflow y PyTorch al formato de esta biblioteca. A través de la compilación cruzada, el código de inferencia del modelo de IA se compila en instrucciones de VM.
La imagen de VM se gestiona a través de un árbol de Merkle, solo se sube el hash raíz a la cadena. El protocolo de división ayuda a localizar los pasos en disputa y los envía al contrato de arbitraje en la cadena. Las pruebas indican que el modelo básico de IA solo necesita 2 segundos para inferir en la VM, y todo el proceso de desafío se puede completar en 2 minutos.
Juego de validación en múltiples etapas
Para superar las limitaciones del esquema de una sola etapa, OPML propuso el juego de verificación de múltiples etapas:
El esquema de múltiples etapas asegura la integridad y seguridad de la transición entre etapas a través de un árbol de Merkle.
Tomando como ejemplo el modelo LLaMA, OPML utiliza un método de dos fases:
La OPML de múltiples etapas puede lograr una aceleración de decenas a cientos de veces ( en comparación con la de una sola etapa, al mismo tiempo que reduce significativamente el tamaño del árbol de Merkle.
![OPML:采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(
![OPML:采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(
Garantía de consistencia
Para garantizar la consistencia de los resultados de ML, OPML utiliza dos métodos clave:
Estas tecnologías superan eficazmente los desafíos que presentan las variables de punto flotante y las diferencias de plataforma, lo que mejora la fiabilidad de OPML.
OPML aún está en desarrollo, pero ha mostrado un gran potencial. Ofrece una solución eficiente, de bajo costo y descentralizada para el aprendizaje automático en la blockchain, lo que merece la atención y exploración continuas de la industria.
![OPML:采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(