OPML: 可扩展的去中心化机器学习

近期提出的OPML(乐观机器学习)技术为区块链系统提供了一种新型的AI模型推理和训练方法。与ZKML相比,OPML具有低成本、高效率的优势,能够在普通PC上运行大型语言模型,如26GB大小的7B-LLaMA。

OPML采用验证游戏机制来保证ML服务的去中心化和可验证性。其工作流程包括:

1. 请求者发起ML任务
2. 服务器完成任务并提交结果上链
3. 验证者检查结果,如有异议则启动验证游戏
4. 通过二分协议精确定位错误步骤
5. 最后在智能合约上进行单步仲裁

为了提高效率,OPML采用了专门设计的轻量级DNN库和交叉编译技术。虚拟机镜像通过默克尔树管理,只将根哈希上传到链上。

单阶段OPML存在一些局限性,如无法充分利用GPU加速。为解决这一问题,提出了多阶段OPML方案:

• 仅最后阶段在VM中计算
• 其他阶段可在本地环境执行,利用硬件加速
• 通过默克尔树保证阶段间过渡的完整性

以LLaMA模型为例,采用两阶段OPML:

1. 第二阶段在计算图上进行验证博弈
2. 第一阶段将单节点计算转为VM指令执行

多阶段OPML相比单阶段可实现α倍加速,且默克尔树大小更小。

为保证结果一致性,OPML采用定点算法和跨平台浮点库。与ZKML相比,OPML在计算效率、通用性和开发难度等方面都具有优势。

OPML技术仍在持续开发中,欢迎有兴趣的开发者参与贡献。