英伟达芯片一周涨了7万元!GPT带动涨价潮,主力芯片缺口达30万
图片来源:Pixabay
(资料图片)
ChatGPT爆火带动AI芯片需求飙升。
截至上周五,英伟达最新发布的旗舰AI芯片H100在ebay上的售价超过4万美元一枚。相比此前零售商3.6万美元的报价,已提价明显。
这一价格仍在持续上涨。4月19日,时代财经搜索eBay时发现,目前共有5家店铺挂牌销售H100芯片,售价普遍达到4.5万美元左右,其中标价最高的一枚超过5万美元。以人民币计,相当于不到一周时间涨价近7万元。
而在国内,AI应用的主力芯片——由英伟达2020年发布的A100,其交易价格也在极短时间内迅速飙升。从事GPU服务器销售的文强(化名)向时代财经表示,从年初开始到现在短短三个月多时间里,A100的价格已经从原本的6万元左右一路涨至9万元,甚至一度超过10万元,涨幅超过50%。
在文强看来,A100售价还将继续上涨。去年8月,美国政府发布政策,禁止英伟达A100、H100两款AI芯片售往中国。目前,国内在售的产品都是此前的存货。业内预估,国内A100芯片仅有3万枚存货,奇货可居。
为符合美国政府出口管制政策,英伟达随后宣布推出在性能、带宽上有所阉割的“减配版”A800、H800芯片。受限于产能问题,这两款芯片同样缺货,价格也随之水涨船高。
文强告诉时代财经,自己手中A800报价也已经高达8.7万元,且仅剩16枚,售完即止。如果需求量大、需要订货,报价还会再涨5000元至9.2万元,直逼A100芯片售价。
“一天一个价,一天比一天贵。”
A100芯片缺口达30万枚
算力、算法和数据构成了AI时代的三要素,而算力又是基础设施。有多少枚GPU、多少算力,被认为是大语音模型研发和创业成败最为关键的因素之一。
正是因此,在海内外一众巨头和创业者涌入大语言模型研发训练的当下,市场对AI芯片的需求量飙升。
据前人工智能NLP企业首席科学家、千芯科技董事长陈巍测算,国内如果想要直接训练出一个GPT-3级别的大模型,最少需要3000到5000枚A100级别的AI芯片。
这意味着国内市场存在巨大的供应缺口。目前除了阿里巴巴、百度等互联网巨头之外,商汤科技、昆仑万维(300418)、毫末智行、360、知乎等公司也官宣了自己的大模型,如果再加上王小川、王慧文、李开复等创业者,中国年内即将推出的大模型数量已经超过10个。光是满足这些企业的需求就需要3万到5万枚A100级别的AI芯片。
这还只是研发训练层面的需求量。陈巍向时代财经表示,如果想要实际部署,算力的需求量只会更大。以保守情况估计,国内A100级别的AI芯片缺口在30万枚左右。
“我们算过,如果百度要在自己的搜索引擎内接入类似ChatGPT这样的对话模型,可能需要10万块A100级别的AI芯片,这还只是假设每个人只对话一次的保守测算。”
正是因此,A800、H800芯片遭到包括服务器、互联网厂商在内的公司哄抢。
一份流传的《阿里AI专家交流纪要》显示,百度年初紧急下单3000台8枚芯片的A800服务器,这意味着需要2.4万枚A800,预计全年百度会有A800和H800共5万枚需求。阿里云预计在今年需要1万枚左右,其中6000枚是H800。
在海外,巨头们的抢购也同样疯狂。据媒体报道,马斯克为推进推特内部的新AIGC项目,购买了大约1万枚AI芯片。而自2022年末开始,微软就实行了GPU资源配额供给,但今年1月以来审批时间越来越长,如今部分申请需要等待几天甚至几周才能获批。同时,微软向英伟达预订的数万枚AI芯片,交货无期。
或拖慢国产大语言模型发展
对于大语言模型训练来说,英伟达几乎成为唯一的赢家。
去年,国产芯片公司壁仞科技发布的BR100,已经被普遍认为能够在算力和能效比上达到全球领先水准。然而,在配套的产品生态上,几乎无人能与英伟达抗衡。
一位AI芯片设计相关的从业者向时代财经表示,英伟达于2006年发布的CUDA平台早已成为应用最为广泛的AI开发生态系统,然而CUDA几乎只支持英伟达的Tesla架构GPU,这导致开发者难以脱离英伟达芯片,进行生成式AI的研发以及训练。“几乎没有芯片公司可以撼动英伟达的统治地位。”
IDC数据显示,国内GPU服务器在2021年占国内服务器市场规模的比例超过88.4%,英伟达的产品占比超80%。
但受限于美国政府的出口管制政策,中国一众互联网大厂、大语言模型的创业者都无法及时获得最先进的AI芯片。在国内难以产出替代产品的情况下,毫无疑问将会影响国产大语言模型的发展进程。
在陈巍看来,中国企业如果使用“减配版”芯片,综合带宽性能可能只有同期旗舰型号的六成。这样需求量更大,跑得却更慢,综合成本至少要高出20%至30%。“这很有可能是赚钱和不赚钱的分水岭,活下去和活不下去的分水岭。”
关键词:
- 女童不慎掉入20米深井 18岁小姨三次下井成功营救
- 西安3个区域12月28日起每日开展全员核酸 官方提倡民众居家健身
- 浙江乐清一核酸检测结果异常人员 复采复检为阴性
- 浙江本轮疫情报告确诊病例490例 提倡“双节”非必要不出省
- 西安警方通报6起涉疫违法案件
- 西安新一轮核酸筛查日检测能力达160万管
- 西安市累计报告本土确诊病例811例
- 重庆曝光4起违反中央八项规定精神典型问题 警示党员干部清新过节
- 云南清水河边检站查获走私玉石和玉石毛料65公斤
- 吉林市政协原党组成员、副主席孙洪彬被开除党籍和公职
-
武汉协和医院开设互联网儿童医学中心
中新网武汉12月28日电 (聂文闻 彭锦弦 陈有为)记者28日从华中科技大学附属协和医院(以下简称“武汉协和医院”)获悉,该院在湖北省首
-
四川:力争三年完成638个历史遗留矿山生态修复
中新网成都12月28日电 (杨予頔)28日,四川省自然资源厅发布消息称,近日,四川省自然资源厅印发了《四川省历史遗留矿山生态修复三年行
-
不同养老模式共同推进 提升老年福祉 让老人享受“温暖夕阳”
我为群众办实事 | 不同养老模式共同推进 提升老年福祉 让老人享受“温暖夕阳” 央视网消息:近期,各地在“我为群众办实事”实
-
各地创新举措 把实事办好 把好事落细 温暖民心
我为群众办实事 | 各地创新举措 把实事办好 把好事落细 温暖民心 央视网消息:近期,各地在“我为群众办实事”实践活动中,
-
新疆伊犁州新源县发生3.3级地震 震源深度13千米
中新网12月28日电 中国地震台网正式测定:12月28日15时14分在新疆伊犁州新源县(北纬43 37度,东经82 65度)发生3 3级地震,震源深度13千米。
-
2021,比个心吧!
-
高风险岗位人员出行,会受到限制吗?
【两节防疫提示】高风险岗位人员出行,会受到限制吗?
-
【两节防疫提示】健康码“变黄”,对出行有何影响?
-
【挑战365天正能量速写画】第028期:卫国戍边英雄王焯冉表弟入伍
从小就怀揣着从军报国梦的盛冠杰,5年前就曾和哥哥王焯冉相约报名参军。却因当时体检未达标,遗憾错过军营,上了大学。去年哥哥卫国戍
-
【两节防疫提示】返乡和外出居民应注意什么?
X 关闭
战时防疫用!宝安首批667间集中居住板房移交管理
西安新增本土确诊病例150例 详情发布
广东最低气温跌至-6℃现冰挂 部分道路及海上交通受影响
“2022科学跨年系列活动”启动 提高公众对科学类流言“免疫力”
珠科院多举措助力大湾区抗旱防咸保供水
X 关闭
环球速读:今天星期几用英语怎么说翻译_今天星期几用英语怎么说
【环球快播报】联合国中文日为何定在谷雨?原来和汉字的起源有关
“硅谷银行事件”带给印度银行业的思考
海越能源:公司二期项目已取得项目备案确认书,正处于厂房建造阶段 当前通讯