区块链数据访问的演进：索引器及相关项目介绍

数据是区块链技术的核心,是开发去中心化应用的基础。目前的讨论多集中在数据可用性(DA)方面,即确保网络参与者能访问最新交易数据进行验证。但数据可访问性这一同样重要的方面却常被忽视。

在模块化区块链时代,DA解决方案已成为必需。它们确保所有参与者都能使用交易数据,实现实时验证并维护网络完整性。然而,DA层更像是广告牌而非数据库,数据不会无限期存储,会随时间被删除。

相比之下,数据可访问性侧重于检索历史数据的能力,这对开发dApp和进行区块链分析至关重要。尽管讨论较少,但它与数据可用性同等重要。两者在区块链生态系统中发挥互补作用,全面的数据管理必须同时解决这两个问题,以支持强大高效的区块链应用。

区块链自诞生以来彻底改变了基础设施,推动了游戏、金融和社交网络等领域dApp的创建。然而,构建这些dApp需要访问大量区块链数据,这既困难又昂贵。

对dApp开发者来说,一种选择是托管和运行自己的存档RPC节点。这些节点存储所有历史区块链数据,允许完全访问。但维护成本高,查询能力有限。运行较便宜的节点是另一选择,但数据检索能力有限,可能妨碍dApp运行。

另一种方法是使用商业RPC节点提供商。他们负责节点成本和管理,通过RPC端点提供数据。公共RPC端点免费但有速率限制,可能影响用户体验。私有RPC端点性能更好,但即使简单数据检索也需要大量通信,效率低下且难以扩展。

区块链索引器在组织链上数据并存入数据库以便查询方面发挥关键作用,因此被称为"区块链的谷歌"。它们索引区块链数据,通过类似SQL的查询语言使数据可用。索引器提供统一接口,让开发者用标准化查询语言快速准确检索信息,大大简化了流程。

不同类型的索引器优化数据检索:

1. 完整节点索引器:运行完整区块链节点直接提取数据,确保完整准确,但需要大量存储和处理能力。

2. 轻量级索引器:依靠完整节点按需获取特定数据,减少存储需求但可能增加查询时间。

3. 专用索引器:针对特定类型数据或区块链,优化特定用例检索,如NFT数据或DeFi交易。

4. 聚合索引器:从多个区块链和来源提取数据,包括链下信息,提供统一查询接口,对多链dApp特别有用。

仅以太坊就需要3TB存储空间,且持续增长。索引器协议部署多个索引器,高效索引和高速查询大量数据,这是RPC无法实现的。

索引器还允许复杂查询、轻松过滤数据和提取后分析。一些索引器可聚合多个来源数据,避免多链dApp部署多个API。通过分布在多个节点,索引器提供增强的安全性和性能,而RPC提供商可能因集中式特性出现中断。

总体而言,与RPC节点提供商相比,索引器提高了数据检索效率和可靠性,同时降低了部署单个节点的成本。这使区块链索引器协议成为dApp开发者的首选。

构建dApp需要检索和读取区块链数据才能运行服务。这包括DeFi、NFT平台、游戏甚至社交网络,因为这些平台需要先读取数据才能执行其他交易。

DeFi协议需要不同信息为用户报出价格、比率、费用等。AMM需要价格和流动性信息计算掉期利率,借贷协议需要利用率确定借贷利率和清算债务比率。在计算用户执行利率前,将信息输入dApp是必不可少的。

GameFi需要快速索引和访问数据,确保用户流畅游戏。只有通过快速数据检索和执行,Web3游戏才能在性能上与Web2游戏相媲美,吸引更多用户。这些游戏需要土地所有权、代币余额、游戏内操作等数据。使用索引器可以更好地确保稳定数据流和正常运行时间,保证完美游戏体验。

NFT市场和借贷平台需要索引数据访问各种信息,如NFT元数据、所有权和转让数据、版税信息等。快速索引此类数据可避免逐个浏览每个NFT以查找所有权或属性数据。

无论是需要价格和流动性信息的DeFi AMM,还是需要更新新用户帖子的SocialFi应用,快速检索数据对dApp正常运行至关重要。借助索引器,它们可以高效、正确地检索数据,提供流畅用户体验。

索引器提供了从原始区块链数据(包括每个区块中的智能合约事件)中提取特定数据的方法,为更具体的数据分析提供机会,从而提供全面见解。

例如,永续交易协议可以找出哪些代币交易量大、产生费用,从而决定是否将其作为永续合约上线。DEX开发者可以创建仪表板,深入了解哪些资金池回报率最高或流动性最强。还可以创建公共仪表板,让开发者自由灵活地查询要在图表上显示的任何类型数据。

由于有多个区块链索引器可用,识别索引协议间的差异对确保开发者选择最适合需求的索引器至关重要。

The Graph是首个在以太坊上启动的索引器协议,可轻松查询以前难以访问的交易数据。它使用子图定义和过滤从区块链收集的数据子集,如与某交易池相关的所有交易。

使用索引证明,索引器质押GRT代币用于索引和查询服务,委托人可选择质押代币。策展人可访问高质量子图,帮助索引器确定要为哪些子图编制数据以赚取最佳查询费用。The Graph正向更大程度去中心化过渡,最终将停止托管服务,要求子图升级到其网络。

其基础设施使每百万次查询平均成本达到40美元,比自托管节点成本低得多。它还支持同时对链上和链下数据进行并行索引,实现高效数据检索。

The Graph的索引器奖励在过去几个季度稳步增长,部分由于查询量增加,也归因于代币价格增长,因为他们计划未来整合AI辅助查询。

Subsquid是点对点、水平可扩展的去中心化数据湖,可高效聚合大量链上和链下数据,并通过零知识证明保护。作为去中心化工作器网络,每个节点负责存储特定区块子集数据,通过快速识别保存所需数据的节点加快检索过程。

Subsquid支持实时索引,允许在区块最终确定前对其索引。它还支持以开发者选择的格式存储数据,便于使用BigQuery、Parquet或CSV等工具进行分析。子图可以在Subsquid网络上部署,无需迁移到Squid SDK,实现无代码部署。

尽管仍处于测试网阶段,Subsquid已取得令人印象深刻的统计数据,超过80,000名测试网用户,部署超过60,000个Squid索引器,网络上有超过20,000名验证开发者。6月3日,Subsquid启动了其数据湖的主网。

除索引外,Subsquid Network数据湖还可替代分析、ZK/TEE协处理器、AI代理和Oracle等用例中的RPC。

SubQuery是去中心化中间件基础设施网络,提供RPC和索引数据服务。最初支持Polkadot和Substrate网络,现已扩展到200多个链。其工作原理类似使用索引证明的The Graph,索引器索引数据并提供查询请求,委托人将股份质押给索引器。然而,它引入消费者提交购买订单,表明索引器收入有保障,而非管理者。

它将引入支持分片的SubQuery数据节点,防止节点间不断同步新数据,优化查询效率,同时走向更大去中心化。用户可选择每1000个请求支付约1 SQT代币的计算费用,或通过协议为索引器设置自定义费用。

尽管SubQuery今年早些时候才推出代币,但节点和委托人的发行奖励也以美元价值环比增长,代表其平台上提供的查询服务数量不断增加。自TGE以来,质押的SQT总量已从600万增加到1.25亿,凸显其网络参与度增长。

Covalent是去中心化索引器网络,由区块样本生产者(BSP)网络节点通过批量导出创建区块链数据副本,并在Covalent L1区块链上发布证明。这些数据再由区块结果生产者(BRP)节点根据设定规则细化,筛选出符合要求的数据。

通过统一API,开发者可轻松以一致的请求和响应格式提取相关区块链数据,无需编写自定义复杂查询即可访问数据。可使用在Moonbeam上结算的CQT代币作为支付手段从网络运营商处提取这些预配置数据集。

Covalent的奖励从23年第一季度到24年第一季度似乎总体呈增长趋势,部分原因是Covalent代币CQT价格上涨。

选择索引器时需考虑以下因素:

数据可定制性:某些索引器(如Covalent)是通用索引器,仅通过API提供标准预配置数据集。虽然快速,但无法为需要自定义数据集的开发者提供灵活性。使用索引器框架允许更多自定义数据处理以满足特定应用需求。

安全性:索引数据必须安全,否则基于这些索引器构建的dApp也容易受攻击。例如,如果交易和钱包余额可被操纵,dApp可能失去流动性,影响用户。所有索引器都通过质押代币采用某种形式安全性,但其他解决方案可能使用证明进一步提高安全性。

Subsquid提供使用乐观和零知识证明的选项,Covalent发布包含区块哈希值的证明。Graph以乐观挑战窗口期针对索引器查询提供争议挑战期,SubQuery为每个区块生成Merkle Mountain证明,计算其数据库中存储的所有数据的每个区块哈希值。

速度和可扩展性:随区块链增长,交易量增加,索引大量数据更加繁琐,需要更多处理能力和存储空间。保持效率变得更困难,但索引器协议引入解决方案满足这些需求。

Subsquid通过添加更多节点存储数据实现水平扩展,随硬件改进能够扩展。Graph提供并行流数据以更快同步,SubQuery引入节点分片加快同步过程。

支持的网络:尽管大多数区块链活动仍在以太坊进行,但不同区块链越来越受欢迎。Layer 2s、Solana、Move区块链和比特币生态系统链都有自己不断增长的开发者和活动,也需要索引服务。

为其他索引器协议不支持的某些链提供支持可获得更多市场份额费用。索引数据密集型网络(如Solana)并非易事,目前只有Subsquid成功为它们提供索引支持。

尽管索引器在dApp开发中广泛采用,但其潜力仍然巨大,尤其是集成AI的情况下。随着AI在Web2和Web3中普及,其改进能力取决于访问相关数据以训练模型和开发AI代理。确保数据完整性对AI应用至关重要,可防止模型被输入有偏见或不准确信息。

在索引器解