在持续已久的(de)“AI热潮(cháo)”中,各家争相推出的大模型、AI应用,都进一步推升了对算力狂(kuáng)热的需求。本周(zhōu)已有(yǒu)报道指出英伟达后续对(duì)AI顶级规格芯片需求明(míng)显(xiǎn)看增,紧急向台积电追加预订先进封装产能。
需求(qiú)飙(biāo)涨下,英伟达GPU价格自然也是水涨船高。据集(jí)微网消息(xī),有代理(lǐ)商(shāng)透露,英伟达A100价格(gé)从(cóng)去年(nián)12月(yuè)开(kāi)始上涨,截至今年4月(yuè)上半(bàn)月,其5个月价格累计涨幅达(dá)到37.5%;同(tóng)期A800价格累计涨(zhǎng)幅达20.0%。
同时,英伟达GPU交货周期也被拉长,之前拿货周期大约为一个(gè)月,现在(zài)基本都需(xū)要三个月或更长。甚至,部分新订单“可能要到12月才(cái)能交付”。
供需的巨大鸿沟(gōu)面(miàn)前,在(zài)这(zhè)一(yī)情形之下,众多客户(hù)也不得不“勒紧腰带(dài)”。上述文章指出,国内(nèi)可用于训(xùn)练AI大(dà)模型的(d岳飞满江红多少字不含标点,岳飞《满江红》多少字加标点e)A100大约有4万(wàn)-5万个,供应(yīng)相(xiāng)当吃紧(jǐn),一(yī)些(xiē)云服务厂商已严格限制内部使用这些先进芯片(piàn),以(yǐ)将其(qí)保(bǎo)留至需要强力运算(suàn)的(de)任务。
值(zhí)得一提的是(shì),类似的事情在(zài)微软内部(bù)也早已(yǐ)发生。3月已有外(wài)媒报道指(zhǐ)出,微软内部陷入AI服务器硬件(jiàn)短缺的(de)窘境,不得不对(duì)AI硬件(jiàn)资源采(cǎi)取“配(pèi)额供给”机制,限制(zhì)公司内部其他AI工具开发团队的(de)资源(yuán)用(yòng)量(liàng)。
拉长时间(jiān)线来看,有(yǒu)GPU业内人士指出(chū),实际上(shàng)从(cóng)去年6月起(qǐ),英伟达就已宣布上调A100价(jià)格(gé),涨幅(fú)20%左右,渠道(dào)商在(zài)加紧囤货。至于英伟达A800,在ChatGPT火(huǒ)爆(bào)之(zhī)前就已出(chū)现(xiàn)涨价,但反映(yìng)到市场则有(yǒu)一(yī)定的滞后(hòu)性,赶上ChatGPT爆火这一时间点,更放大了这一现象。
“英伟(wěi)达(dá)GPU涨价(jià)与ChatGPT有(yǒu)一定的关联性,且交货周期(qī)也受到了(le)连带的影响,导致(zhì)市场(chǎng)上出现了众多炒卡的行为。”
此外,在海(hǎi)外电商平台上,英(yīng)伟达新旗舰(jiàn)级GPU H100的价格(gé)在4月(yuè)中旬就已炒(chǎo)到了超过4万美元。
随着如今各家科技巨(jù)头(tóu)争相推出自家大(dà)模型,GPU需求量(liàng)仍在持续攀升。OpenAI指(zhǐ)出,AI大模型要(yào)持续取得(dé)突破(pò),所需要消耗的计算资源(yuán)每3~4个月就要翻一倍,资金也需要(yào)通过指(zhǐ)数级增长获得匹配。
据财通证券测(cè)算,2023/2024/2025年大(dà)模型有望为GPU市场贡献69.88/166.2/209.95亿美元增(zēng)量。
其(qí)中在训练(liàn)端(duān),以(yǐ)目(mù)前主流的训(xùn)练端GPU英伟达A100测算(suàn),假设(shè)ASP为(wèi)1万美元,2023/2024/2025年全球(qiú)训练(liàn)端GPU需求市场规(guī)模预计(jì)分别为0.74/2.00/4.07亿美元;
在推(tuī)理(lǐ)端,以目(mù)前英伟达用于推理端计算的A10测算,假设(shè)ASP为2800美元,2023/2024/2025年全(quán)球(qiú)推理端GPU需求市场规模(mó)预计分别(bié)为69.14/164.2/205.88岳飞满江红多少字不含标点,岳飞《满江红》多少字加标点亿美元。
业内(nèi)人士也(yě)表示,AI大模型训练成本之一是基(jī)础算力,大概(gài)需要384-3000块左(zuǒ)右(yòu)的A100才能基(jī)本满足要求(qiú),如果价(jià)格持(chí)续上(shàng)涨,无论是(shì)互联(lián)网、AI大厂、还是创业新贵,要追加的投入都可能远超当初。
未经允许不得转载:太仓网站建设,太仓网络公司,太仓网站制作,太仓网页设计,网站推广-昆山云度信息科技有限公司 岳飞满江红多少字不含标点,岳飞《满江红》多少字加标点
最新评论
非常不错
测试评论
是吗
真的吗
哇,还是漂亮呢,如果这留言板做的再文艺一些就好了
感觉真的不错啊
妹子好漂亮。。。。。。
呵呵,可以好好意淫了