解析分布式 AI 计算网络 Gensyn
6月12日,总部位于英国的区块链AI计算协议Gensyn宣布完成a16z领投的4300万美元A轮融资。这场AI领域革命,Gensyn率先为我们交上了一份答卷。
Gensyn本质是一种基于Substripe协议的第一层权益证明区块链,可通过智能合约方式可促进机器学习的任务分配和奖励,来快速实现AI模型的学习能力,并降低深度学习训练的价格。 2020年GPT-3单次训练的成本约为1200万美元,比2019年GPT-2训练的估计值约43000美元高出270倍以上。一般来说,最好的神经网络的模型复杂度(大小)目前每三个月翻一番。而Gensyn的机器学习训练工作的每小时成本约在0.4美元,远远低于AWS(2美元)和GCP(2.5美元)等所需成本。Gensyn想要利用区块链等技术实现一种去中心化的大规模分布式深度学习的高效计算协议,并且具有概率学习证明和加密货币激励机制。
Gensyn可将开发人员(任何能够训练机器学习模型的人)与解题者(Solver,任何想用自己机器训练机器学习模型的人)联系起来。 通过利用世界各地闲置的、具有机器学习能力的计算设备(例如小型数据中心、个人游戏电脑、M1和M2 Mac甚至是智能手机),联结到一个全球机器学习超级集群中,将机器学习的可用计算能力提高10-100倍。同时Gensyn以创新性的验证系统和算力供应实现了超大规模和低成本且无需信任地训练神经网络。
1. 创新的验证系统
Gensyn的核心挑战是验证在设备上执行的计算任务是否已经正确执行,并通过代币触发支付。 Gensyn系统主要通过三个概念来解决验证问题,包括概率proof-of-learning、基于图的精确定位协议和Truebit 式激励游戏。
由四个主要参与者组成,包括提交者、解题者、验证者和吹哨者。提交者是系统最终用户,提供将要计算的任务并为完成的工作单元付费。解题者是系统主要工作部分,执行模型训练并生成证明以供验证者检查。验证者将非确定性训练过程链接到确定性线性计算、复制解题者证明的一部分,并将距离与预期阈值进行比较。吹哨者是最后一道防线,检查验证者的工作并挑战以期获得累积奖金。
系统可以在无需信任的情况下完成所有这些工作,并且开销与模型大小成线性比例,从而保持验证成本不变。该系统的创新点在于将模型训练检查点与终止于链上的概率检查相结合,有效地解决了任意规模神经网络训练中状态依赖问题。
2. 新的算力供应
Gensyn系统会利用未充分利用和未优化计算设备资源。 这些设备包括从目前未使用的游戏GPU到之前以太坊PoW时代的GPU矿机。因为该协议是去中心化的,意味着它最终将由社区多数管理,未经社区同意不能“关闭”,与web2不同,这使其具有抗审查性。该协议的创新点在于充分利用未使用的计算设备资源,为社区提供更多的计算力,同时也为那些拥有未使用设备的人提供了一个新的收入来源。并且Gensyn协议提供了与数据中心拥有的GPU相似的成本,其规模可以超过AWS。
总之,Gensyn的核心目标是通过去中心化计划实现AI民主化,让更多的人可以参与到AI技术的创新和应用中。 该计划的核心理念是利用未充分利用的计算设备资源,通过构建一个开放的、去中心化的验证系统,来提高AI模型的效率和准确性,并为AI创业者提供更多的机会和可能性。它是一个具有创新性和前瞻性的计划,有望在未来的AI领域中发挥重要作用。