写在 GTC 大会之后,Web3 能拯救 AI 算力吗?

原文作者:佐爷原文来源:佐爷歪脖山时尚是个循环,Web 3 也是。Near “重新”成为 AI 公链,创始人 Transformer 作者之一身

时尚是个循环,Web 3 也是。

Near “重新”成为 AI 公链,创始人 Transformer 作者之一身份让其得以出席英伟达 GTC 大会,和皮衣老黄畅谈生成式 AI 的未来,Solana 作为 io.net、Bittensor、Render Network 的聚居地成功转型为 AI 概念链,此外还有 Akash、GAIMIN、Gensyn 等涉及 GPU 计算的异军突起者。

如果我们将视线抬高,在币价上涨之余,可以发现几个有趣的事实:

GPU 算力之争来到去中心化平台,算力越多,等同于计算效果越强,CPU、存储和 GPU 互相搭售;计算范式从云化到去中心化过渡中,背后是 AI 训练到推理的需求转变,链上模型不再是空玄之谈;互联网架构的底层软硬件组成和运行逻辑并未发生根本改变,去中心化算力层更多承担激励组网作用。

先进行概念区分,Web3 世界的云算力诞生于云挖矿时代,指将矿机的算力打包出售,免去用户购买矿机的巨额支出,但是算力厂商经常会“超售”,比如将 100 台矿机算力混合出售给 105 个人,以获取超额收益,最终让该词等同于骗人。

本文中的云算力特指基于 GPU 的云厂商的算力资源,这里的问题是去中心化算力平台究竟是云厂商的前台傀儡还是下一步的版本更新。

传统云厂商和区块链的结合比我们想象的要深,比如公链节点、开发和日常存储,基本上都会围绕着 AWS、阿里云和华为云来展开,免去购买实体硬件的昂贵投资,但是带来的问题也不容忽视,极端情况下拔网线就会造成公链宕机,严重违背去中心化精神。

另一方面,去中心化算力平台,要么直接搭建“机房”以维护网络稳健性,要么直接搭建激励网络,比如 IO.NET 的空投促 GPU 数量策略,一如 Filecoin 的存储送 FIL 代币,出发点不是满足使用需求,而是进行代币赋能,一个证据是大厂、个人或学术机构甚少会真正使用它们来进行 ML 训练、推理或图形渲染等工作,造成严重的资源浪费。

只不过在币价高涨和 FOMO 情绪面前,一切对去中心化算力是云算力骗局的指责都烟消云散了。

两种☁️算力,同名同运吗?

推理和 FLOPS,量化 GPU 计算能力

AI 模型的算力需求正从训练到推理演进。

先以 OpenAI 的 Sora 为例,虽然也是基于 Transformer 技术制造而来,但是其参数量相较于 GPT-4 的万亿级,学界推测在千亿级以下,杨立昆更是说只有 30 亿,即训练成本较低,这也非常好理解,参数量小所需要的计算资源也等比例的衰减。

但是反过来,Sora 可能需要更强的“推理”能力,推理可以理解为根据指令生成特定视频的能力,视频长期被视为创意内容,因此需要 AI 更强的理解能力,而训练相对简单一些,可以理解为根据已有的内容总结出规律,无脑堆算力,大力出奇迹。

在以往阶段,AI 算力主要用于训练层面,少部分用于推理能力,并且基本都被英伟达各类产品包圆,但是在 Groq LPU(Language Processing Unit)面世后,事情开始起变化,更好的推理能力,叠加大模型的瘦身和精度提高,有脑讲逻辑,正在慢慢成为主流。

另外还要补充下 GPU 的分类,经常能看到是臭打游戏的拯救了 AI,这话有理的地方在于游戏市场对高性能 GPU 的强烈需求覆盖了研发成本,比如 4090 显卡,打游戏的和 AI 炼丹的都能用,但是要注意的是,慢慢的游戏卡和算力卡会逐步解耦,这个过程类似于比特币矿机从个人电脑发展到专用矿机,其所用的芯片也遵循从 CPU、GPU、FPGA 和 ASIC 的顺序。

LLM 专用卡研发中···

随着 AI 技术,尤其是 LLM 路线的成熟和进步,更多 TPU、DPU 和 LPU 的类似尝试会越来越多,当然,目前主要产品还是英伟达家的 GPU,下文所有的论述也是基于 GPU,LPU 等更多是对 GPU 的一种补充,完全取代尚需时日。

去中心化算力竞赛不争抢 GPU 的拿货渠道,而是尝试建立新的盈利模式。

行文至此,英伟达快成了主角,根本上是英伟达占据了显卡市场的 80% 份额,N 卡和 A 卡之争只存在理论上,现实中大家都是口嫌体正直。

绝对的垄断地位,造就了各家争抢 GPU 的盛况,从消费级的 RTX 4090 到企业级的 A100/H100 都是如此,各家云厂商更是囤货主力。但是 Google、Meta、特斯拉和 OpenAI 等涉及 AI 公司都有自制芯片的行动或计划,而国内企业已经纷纷转向华为等国产厂商,GPU 赛道仍然拥挤异常。

对于传统云厂商而言,出售的实际上是算力和存储空间,所以用不用自己的芯片没有 AI 公司那么紧迫,但是对于去中心化算力项目而言,目前处于前半截,即跟传统云厂商抢算力生意,主打廉价和易得,但是未来会不会像比特币挖矿一样,出现 Web3 AI 芯片几率不大。

额外吐槽一句,自从以太坊转 PoS 之后,币圈的专用硬件已经越来越少,Saga 手机、ZK 硬件加速和 DePIN 等市场规模太小,希望去中心化算力能为专用 AI 算力卡探索出一条 Web3 特色道路。

去中心化算力是云的下一步还是补充。

GPU 的运算能力,业界通常以 FLOPS (Floating Point Operations Per Second,每秒浮点运算次数)比较,这是最常用的计算速度的的指标,不论 GPU 的规格还是应用并行等优化措施,最终都以 FLOPS 论高低。

从本地计算到上云,大约进行了半个世纪,而分布式概念从计算机诞生之初便存在,在 LLM 的推动下,去中心化和算力结合,不再像以往那般虚无缥缈,我会尽可能多总结现有的去中心化算力项目,考察维度只有两点:

GPU 等硬件数量,即考察其计算速度,根据摩尔定律, 越新 GPU 的计算能力越强,相等规格下数量越多则计算能力越强;激励层组织方式,这属于 Web3 的行业特色,双代币、加治理功能、空投激励措施等,更简易明白各项目的长期价值,而非过度关注短期币价,长期只看能拥有或者调度多少 GPU。

从这个角度而言,去中心化算力依然是基于“现有硬件+激励网”的 DePIN 路线,或者说互联网架构依然是底层,去中心化算力层是“硬件虚拟化”后的货币化,重在无准入的访问,真正组网依然需要硬件的配合。

算力要去中心化,GPU 要集中化

借助区块链三难困境框架,去中心化算力的安全性不必特殊考虑,主要是去中心化和可扩展性,后者即是 GPU 组网后的用途,目前处于 AI 一骑绝尘的状态。

从一个悖论出发,如果去中心化算力项目要想做成,那么其网络上的 GPU 数量反而要尽可能的多,原因无他,GPT 等大模型的参数量爆炸,没有一定规模的 GPU 无法具备训练或推理效果。

当然,相对于云厂商的绝对控制,当前阶段,去中心化算力项目至少可以设置无准入和自由迁移 GPU 资源等机制,但是出于资本效率的提升,未来会不会形成类似矿池的产物也说不定。

在可扩展性,GPU 不仅可用于 AI 方面,云电脑和渲染也是条可行路径,比如 Render Network 便专注于渲染工作,而 Bittensor 等专注于提供模型训练,更直白的角度,可扩展性等同于使用场景和用途。

所以可在 GPU 和激励网外额外加两个参数,分别是去中心化和可扩展性,组成四个角度的对比指标,请大家注意,这种方式和技术对比不同,纯粹是图一乐。

_写在 GTC 大会之后,Web3 能拯救 AI 算力吗?_写在 GTC 大会之后,Web3 能拯救 AI 算力吗?

在上述项目中,Render Network 其实非常特殊,本质上其是分布式渲染网络,和 AI 的关系并不直接,在 AI 训练和推理中,各环节环环相扣,不论是 SGD(随机梯度下降,Stochastic Gradient Descent)还是反向传播等算法都要求前后一致,但是渲染等工作其实不必非要如此,经常会对视频和图片等进行切分便于任务分发。

其 AI 训练能力主要和 io.net 并网而来,作为 io.net 的一种插件而存在,反正都是 GPU 在工作,怎么干不是干,更有前瞻性的是其在 Solana 低估时刻的投奔,事后证明 Solana 更适合渲染等网络的高性能要求。

其次是 io.net 的暴力换 GPU 的规模发展路线,目前官网列出足足 18 万块 GPU,在去中心化算力项目中处于第一档的存在,和其他对手存在数量级的差异,并且在可扩展性上,io.net 聚焦于 AI 推理,AI 训练属于顺带手的工作方式。

严格意义上而言,AI 训练并不适合分布式部署,即使是轻量级的 LLMs,绝对参数量也不会少到哪里去,中心化的运算方式在经济成本上更为划算,Web 3 和 AI 在训练上的结合点更多是数据隐私和加密运算等,比如 ZK 和 FHE 等技术,而 AI 推理 Web 3 大有可为,一方面,其对 GPU 运算性能相对要求不高,可以容忍一定程度的损耗,另一方面,AI 推理更靠近应用侧,从用户角度出发进行激励更为可观。

另外一家挖矿换代币的 Filecoin 也和 io.net 达成 GPU 利用协议,Filecoin 将自身的 1000 块 GPU 和 io.net 并网使用,也算是前后辈之间的携手共进了,祝两位好运。

再次是也未上线的 Gensyn,我们也来云测评一下,因为还处于网络建设早期,所以还未公布 GPU 数量,不过其主要使用场景是 AI 训练,个人感觉对高性能 GPU 的数量要求不会少,至少要超过 Render Network 的水平,相比于 AI 推理,AI 训练和云厂商是直接的竞对关系,在具体机制设计上也会更为复杂。

具体来说,Gensyn 需要保证模型训练的有效性,同时为了提升训练效率,因此大规模使用了链下计算范式,所以模型验真和防作弊系统需要多方角色博弈:

整体而言,运作方式类似 PoW 挖矿 + 乐观证明机制,架构非常复杂,也许将计算转移至链下可以节省成本,但是架构的复杂度会带来额外运行成本,在目前主要去中心化算力聚焦 AI 推理的关口,在这里也祝 Gensyn 好运。

最后是老骥伏枥的 Akash,基本上和 Render Network 一同起步,Akash 聚焦 CPU 的去中心化,Render Network 最早聚焦于 GPU 的去中心化,没想到 AI 爆发后双方都走到了 GPU + AI 计算的领域,区别在于 Akash 更关注推理。

Akash 焕发新春的关键在于看中了以太坊升级后的矿场问题,闲置 GPU 不仅可以以女大学生二手自用的名义挂闲鱼,现在还可以一起来搞 AI,反正都是为人类文明做贡献。

不过 Akash 有个好处是代币基本上全流通,毕竟是很老的老项目了,也积极采纳 PoS 常用的质押系统,但是怎么看团队都比较佛系,没有 io.net 那么高举猛打的青春感。

除此之外,还有边缘云计算的 THETA,提供 AI 算力的细分领域解决方案的 Phoenix,以及 Bittensor 和 Ritual 等计算旧贵新贵,恕版面限制不能一一列举,主要是有些实在是找不到 GPU 数量等参数。

结语

纵观计算机发展历史,各类计算范式的都可以建设去中心化版本,唯一的遗憾是他们对主流应用没有任何影响,目前的 Web3 计算项目主要还是在行业内自嗨,Near 创始人去 GTC 大会也是因为 Transformer 的作者身份,而不是 Near 的创始人身份。

更悲观的是,目前的云计算市场的规模和玩家都过于强大,io.net 能取代 AWS 吗,如果 GPU 数量足够多倒是真的有可能,毕竟 AWS 也长期使用开源的 Redis 当底层构件。

某种意义上而言,开源和去中心化的威力一致未能等量齐观,去中心化的项目过度集中在 DeFi 等金融领域,而 AI 也许是切入主流市场的一个关键路径。

Author:BticoinKOL,Source:https://bitcoinkol.com/archives/4781

Like (0)
Previous 30/03/2024 10:25 am
Next 30/03/2024 12:11 pm

相关推荐

  • 赵长鹏再创业,Giggle Academy 有何亮点?

    原文作者:1912212.eth 原文来源:Foresight News因诉讼仍身处美国的赵长鹏并未停下前进的脚步。在创立全球最大的加密货币交易

    Industry dynamics 20/03/2024
    00
  • 趙長鵬對話Circle:既然無法永遠保護美元就應該擁抱未來

    幾天前,Binance創始人CZ做客Circle CEO Jeremy Allaire的The Money Movement欄目,進行了近1個小時的對話。 雙方並沒有聊Stablecoin相關的內容,而是從更宏觀的角度,聊了聊區塊鏈對世界的影響。 從2020年開始,全球如同打開了潘朵拉的魔盒一般發生變化,我們在關注行業內各個賽道項目的同時,獲取宏觀發展的資訊也相當必要。 律動BlockBeats將二人的對話聽譯如下,希望能對讀者有所幫助。 Jeremy Allaire:你好,我是Jeremy Allaire,歡迎來到The Money Movement,非常期待我們今天的對話。 歡迎你,CZ。 CZ:很高興來到這裡,謝謝你邀請我。 Jeremy:首先我想先談一談你選擇這一行業的原因以及對於未來的願景。 我想我們每個人都有自己的故事,來到Crypto市場當中都想有一番作為,比如建立一個新的全球金融體系、新的經濟體系,或者世界經濟活動的新管道。 我很想聽聽你的見解,你覺得Crypto將給世界帶來什麼? 在未來十年當中世界會因為Crypto的發展而發生什麼變化? CZ:從根本上說,我認為Crypto區塊鏈是一項新技術,用於建立信任的帳簿系統。 不過,就像互聯網的第一個應用只是用於資訊交流一樣,Crypto一開始只有金錢内容。 我認為借助Crypto,我們可以改進我們現有的貨幣,從而金融部門和金融科技。 我們現時的貨幣系統尚存諸多缺陷,而在我看來,我們需要在保證合規性、安全性、易用性的同時,提高交易的效率。 因為,我們需要推進Crypto科技的發展,為人們提供使用這種新技術的機會。 Jeremy:我很想聽聽你對Crypto原生企業和原生組織數量不斷增長的看法。 當前,全球經濟活動體系基本上是根據民族國家法規與跨國公司法建立起來的。 區塊鏈公鏈連接了很多孤立的金融系統,以方便人們記帳並治理。 隨著新興企業和項目的發展,Binance在支持它們方面發揮了非常大的作用,你如何看待這些新的組織形式? 當人們開始使用區塊鏈運轉資本、進行勞動以後,世界將發生怎樣的改變? CZ:你提到的話題非常有趣。 Binance在一開始想成為一個去中心化的組織,但並沒有完全做到。 我們沒有管自己叫DAO或某某公司,因為我們覺得撥開這些人為術語之後,我們的本質就是一個團隊,就是一群人在激勵體系和相互信任中共同合作完成任務。 就公司形式而言,Binance可能是首批在180個不同國家都有分部的創業公司之一,而這主要歸功於互聯網和區塊鏈。 剛開始的時候,我們只負責處理Crypto交易,讓人們在這裡通過區塊鏈存款、取款。 我們為員工發放的就業協議非常直白,其約束力主要靠的是彼此間的信任,上面會說明他們完成工作後可以獲得的公司股份或Token酬勞。 只要人們有這種信任,他們就不再需要一紙法律檔。 我們不需要有實際的公司、辦公室、總部等等傳統公司所擁有的東西,也能很好的完成工作。 不過最近我們也做出了中心化的改變,因為當我們想接觸傳統的金融系統時,他們會要求我們提供許可證、注册資訊以及公司三年的財務報表。 雖然我們不太需要這些東西,但為了滿足監管機构的要求,我們還是這麼做了。 今天,我們完全可以在沒有傳統結構的情况下組織起來,因為現在你可以用區塊鏈來進行支付。 那麼下一步,對於任何類型的組織,包括民族、國家,都可以用這種管道來加以組織,而國家稅收、公共服務等如今也都可以利用區塊鏈科技來構建。 Jeremy:我同意你的觀點,在去除掉一些不必要的人為因素之後,這些新的組織形式必將能以更高效的管道運作,為全世界創造更多的工作機會並加强人們之間的交流。 我認為,在未來的五年時間內,區塊鏈組織將成為世界上增長速度最快的組織形式。 我知道Binance花了很多時間和權威進行溝通交流,為他們講解新興技術的發展情況,投入了非常多的精力。 當你在世界各地旅行時,大家對於Crypto都有怎樣的看法,可以和我們說說嗎? CZ:現時人們對於Crypto態度還存在著非常大的差异,有些人仍然認為Bitcoin只有大毒梟在使用; 而有些人則認為這是未來的貨幣科技,是未來金融科技的動力,對於每一個經濟部門都舉足輕重——這也是現在大多數人的看法。 Jeremy:人們對於Crypto的態度已經改變了很多。 CZ:是的,變化很大,很多地方的人們都希望在不惹惱當地權威的前提下將Crypto引入當地經濟之中。 不過有趣的是,傳統金融行業反而更抗拒這種變化,因為他們需要保護現有的銀行及金融機構。 上個月的時候我去了拉丁美洲,發現那裡的很多國家都在使用美元,有30%的人口在銀行工作,他們沒有需要保護的東西。 Jeremy:在某些情况下他們可以進行跨越式發展,對嗎? CZ:是的。 Jeremy:他們會說,「既然這是一個更先進的金融系統、經濟引擎以及資本市場結構,那我們為什麼不直接將其引入呢?」 CZ:Crypto企業將帶來更多就業機會,也可以把其他Crypto元素引入當地經濟,同時也需要交稅。 這些公司可以為當地建立人才庫,對該地區經濟的未來發展非常有利。 如果你看看今天世界上最富有的人,你會發現前10名中有9名在美國,有8名是在互聯網公司:穀歌、Facebook、特斯拉、亞馬遜。 美國確實為互聯網的發展貢獻了很多,而互聯網也是不分國界的,一些公司為全世界提供很好的互聯網基礎設施。 隨著區塊鏈的不斷發展,多家區塊鏈公司也將為人們提供多種工具。 許多有眼界的國家都想吸引這些公司,所以肯定就會有競爭。 各國權威都不想成為以身試險的急先鋒,但也都不想成為最後一個。 那天我和我的朋友聊天,他說他預計五到七年以後,全世界的國家都會採用Crypto。 但我卻反駁說,「不,如果一直沒有人行動的話,這個時間還會更久。」 現在一些權威已經開始行動了,所以美國也不甘示弱,於一個月前頒佈了行政令。 英國現在想成為一個Crypto中心,而薩爾瓦多在這方面則是遙遙領先。 現在對於任何一個權威來說,採用Crypto的風險正在降低。 Jeremy:所以說,Crypto對各國權威來說已經不單單只是監管風險的問題了,而是機遇的問題。 多年來,我花了很多時間和精力給白宮的官員講述Crypto這九年來的變化。 如今,很多國家都爭先開始接納數位貨幣,因為它關係到國家經濟和競爭優勢。 權威現在正在思考穩定幣對於國家金融系統的作用,並提升了監管的明確性,這著實是一件好事。 與此同時,世界地緣經濟結構也正在發生變化,我們身處其中,見證著新秩序和格局的形成。 事實上,其中一些已經醞釀了很長一段時間,金融危機過後很多Bitcoin玩家也都看到了這些變化。 不僅如此,中國的崛起也在影響著世界格局的形成。 我們將這種新的地緣政治格局稱為新冷戰時期。 從某種程度上來看,數位貨幣將在這種重構中發揮重要作用。 在昨天美國財政部長Janet Yellen發表的演講中,她也在談論這個問題,這極大的說明了權威對於Crypto的態度已經發生了很大的改觀。 畢竟在七八年前如果我在權威會議上討論這個問題的話,他們肯定會把我趕下臺,並強調美國權威不會考慮採納Crypto。 在你看來,Crypto對維護全球一體化可以起到什麼作用? 你是否認為Crypto、區塊鏈和數位貨幣可以在某種意義上幫助世界更好的實現一體化。 CZ:我認為這是一個非常有趣和微妙的話題。 世界一種處於分分合合之中,出現了很多不同的派別。 囙此,每個國家都有不同的情况需要考慮。 對於一國權威來說,貨幣是一個非常强大的工具,因為在地緣政治中它將起到至關重要的作用,大國都有這種野心,但這也會引發衝突,比如戰爭與制裁等等。 世界格局正走向分裂,於是人們開始使用貨幣來擴大國際影響力。 慢慢地,人們開始尋找一種中立的貨幣來使用,也就是Crypto。 Bitcoin非常中立,它不屬於任何國家,而且數量有限,也不存在通貨膨脹。 所以說,對於那些開展全球貿易的企業來說,要想不被哪個國家凍結帳戶,使用中立的貨幣是最好的解決方法。 當然,可能會有人認為Crypto剝奪了他們的權力,雖然這在某種程度上確實如此,但Crypto也為人們提供了一個更好的選擇。…

    Industry dynamics 05/05/2022
    00
  • BNB幣表現遠超比特幣、乙太幣! 幣安幣去年暴漲1300%

    最新資訊顯示,在市值排名前3的加密貨幣當中,幣安幣(BNB)今年飆漲約1300%,狠甩2大競爭對手比特幣及乙太幣。 BNB遠超比特幣、乙太幣! 市值第三的BNB幣今年飆漲1300% 儘管比特幣近期略顯低迷,仍在2021年創下佳績,但據最新資訊顯示,在市值排名前3的加密貨幣當中,幣安幣(BNB)今年飆漲約1300%,狠甩2大競爭對手比特幣及乙太幣。 《彭博》報導,根據Arcane Research的數據,由加密貨幣交易所幣安(Binance)所發行的幣安幣在2021年上漲近1300%。 相比之下,比特幣今年上漲65%,乙太幣上漲408%。 報導指出,BNB在幣安平臺上廣受採用,它同時也是幣安智慧鏈(Binance Smart Chain)的原生代幣,該區塊鏈平臺支持用於去中心化金融(DeFi)等其他應用的智慧合約。 Arcane Research指出,隨著幣安智慧鏈成為乙太坊區塊鏈的挑戰者,將有助於推動BNB續漲。 其他競爭幣今年也受惠於數位資產興趣激增及加密生態系統擴張,像是與其他區塊鏈平臺相關且支持智慧合約的加密貨幣Solana和Fantom,今年的回報率甚至超過BNB。 Arcane Research指出,儘管比特幣在2021年表現強勁,但他們觀察到源源不斷的資金正流向競爭幣。 該公司分析師預測,與元宇宙、GameFi及乙太幣殺手相關的加密貨幣將具有強勁動能。 根據CoinMarketCap數據,截至北京时間下午13:22點37分左右,幣安幣在過去24小時下跌3.21%,暫報518.6美元。

    01/01/2022
    00
  • 防“麻吉大割”们的ERC50协议来了,DINO或将重塑Meme玩法?

    原文作者:Frank 原文来源:PANews“除了代码,谁也不能相信”,或许,这是众多Meme币老玩家的心声,尤其是在经历“麻吉大割”的疯狂周末

    02/04/2024
    00
  • 长推:Ton链上筹码——168亿市值,早期挖矿大户占据大部分

    原文作者:日月小楚 原文来源:twitter 注:本文来自@riyuexiaochu推特,火星财经整理如下:总量51亿枚,流通38亿枚,项目手上

    24/03/2024
    00
  • 比特币马上新高,为什么我却没赚到钱?

    原文作者:Kaori原文来源:BlockBeats今日,比特币突破 68,686 美元,据创下历史新高仅需 314 美元;与此同时,比特币生态的

    06/03/2024
    00
  • BTC踌躇不前,ENA领涨

    第 14 大加密货币比特币现金完成区块奖励减半,但当天价格仍下跌 10% 至 572 美元,远低于 2017 年创下的 4,355 美元左右的历

    04/04/2024
    00
  • 以太坊核心开发者最新会议摘要:EIP-2935和EIP

    原文标题:Ethereum All Core Developers Execution Call #185 Writeup原文作者:Christ

    Industry dynamics 4 days ago
    00

Leave a Reply

Your email address will not be published. Required fields are marked *