在AI浪潮中,模型参数增长和算力堆叠一度成为竞逐焦点。不过站在当下时点 ,当生成式AI开启规模化落地,战场已经转向推理:真实场景中海量数据的瞬间调用 、百万Token的连续推理、长上下文的高效处理,在提升了算力需求的同时,也重新定义了算力基建的价值链 。
在日前的AI基础设施峰会上 ,英伟达发布了全新Rubin CPX GPU。据官方介绍,这颗芯片专为长上下文推理负载设计,是英伟达首颗专为需要一次性处理大量知识(数百万级别Tokens)并进行AI推理的模型构建的芯片。
英伟达称 ,这颗芯片可以为客户带来“前所未有的投资回报率”——每部署价值1亿美元的新芯片,将带来50亿美元收入,投资回报率约50倍 ,远超GB200 NVL72的约10倍回报率。此外,公司宣布GB300 NVL72机架级系统在最新MLPerf推理基准测试中创造了新推理基准记录 。
花旗研究指出,在ASIC竞争加剧的环境下 ,英伟达曾经一年一度的产品发布脚步开始提速,Rubin CPX在产品路线图中“插队 ”,标志着“推理时代”已经到来。
分析师进一步指出 ,Rubin CPX的发布和MLPerf新纪录都展现了英伟达在AI基建领域的持续创新能力。随着AI推理需求、特别是长语境推理需求爆发,英伟达的新品组合有望带动收入显著增长 。
值得注意的是。本周引发全球市场瞩目的甲骨文,也提到了推理市场需求的爆发。
在业绩会上,公司创始人Larry Ellison明确指出 ,AI正从根本上改变甲骨文,AI推理市场将“远大于”AI训练市场,而市场上的推理算力正在被耗尽 。
虽说甲骨文指数级别的订单爆炸性增长 ,以及随之而来对OpenAI依赖性的质疑,让其股价在飙升之后连跌两天。但摩根大通也表示,承认甲骨文在获取OCI业务方面取得了“令人印象深刻的成就” ,并认可其在AI领域的长期潜力。
▌算力基础设施进入长上下文推理新阶段
实际上拉长时间线就能发现,海内外大厂Token调用量已出现明显加速拐点,推理端算力需求快速增长 。
今年5月Google I/O大会的数据显示 ,Google的Token月均调用量从去年4月的9.7万亿增长至今年4月的480万亿,增长50倍。根据微软三季度电话会数据,Azure AI基础设施在今年一季度处理了超100万亿Token ,较去年同期增长5倍,其中3月份单月Token调用量达50万亿。国内互联网大厂来看,今年5月字节火山引擎Token日均调用量为16.4万亿(月均508T),是去年5月的137倍 。
过去一年 ,随着生成式AI进入规模化落地阶段,行业对“长上下文 ”的需求快速上升。无论是企业级知识库问答、代码生成,还是多模态长视频生成 ,均需要模型在极大输入序列下保持推理准确性与计算效率。然而,现有GPU在应对超长上下文时普遍存在内存带宽瓶颈与计算冗余,导致算力利用率不足。
东吴证券指出 ,从产业角度来看,Rubin CPX的推出不仅是英伟达产品线的升级,更意味着海外算力基础设施进入“上下文与生成分工协作”的新阶段 。随着百万Token推理与长视频生成成为AI应用的标配需求 ,硬件和软件的耦合度显著提高,算力产业链的价值量同步上升。无论是GPU 、存储、网络,还是配套的高速PCB、光模块与封装工艺 ,相关厂商都有望深度受益。
融资杠杆炒股:网上股票开户怎么销户-世界人工智能大会将举办 业绩猛增的AI应用概念股出炉
最靠谱的炒股杠杆平台:股票融资余额多好还是少好-又一轮降息潮来袭 刚刚多国出手!特朗普深夜发声
融资买股票利息怎么算:炒股加杠杆-小鹏汽车:5年0息0首付0手续费金融政策限时回归 至高贴息5.57万元
个人炒股加杠杆怎么操作:智能股票app-特朗普最新关税政策!对巴西征50% 对韩国征15%!并暂停对低价值货物的最低限度免税待遇
配资炒股的投资策略:股票账户如何开通杠杆-央行:前八个月人民币贷款增加13.46万亿元 社会融资规模增量累计为26.56万亿元
靠谱股票配资:怎么开通杠杆炒股-午后“达链”龙头集体跳水 沪指罕见跌穿10日线!发生了什么?
广盛网app-低息配资开户平台|实现低利率并保持服务的高质量提示:文章来自网络,不代表本站观点。
广盛网app-低息配资开户平台|实现低利率并保持服务的高质量㉖合规的股票配资平台会加强对投资顾问的资质审核和持续培训,确保投资顾问具备专业的投资知识和经验。
特朗普宣布暂停“对等关税”90天,纳指隔夜暴涨超12%。今日(4月10日),A股三大指数集体高开,沪指涨1.29%,深证...
界面新闻记者|李科文界面新闻编辑|谢欣2月18日,据港交所公告,真实生物已递表港交所主板。据招股书,中金...
消息面上,4月9日消息,美国总统发表讲话称,美国将对药品征收关税。我国生物医药行业对美商品贸易以仿制药出口为主,国产创新...
中国商务部国际贸易谈判代表兼副部长李成钢10日晚在英国伦敦说,过去两天,中美双方团队进行了深入交流,就落实两国元首6...
7月15日有关部门召开钾肥保供稳价会议,骨干流通企业均认为近期钾肥价格异常上涨严重偏离基本面,后期将加强市场供应,推...
界面新闻记者|孙艺真3月21日晚间,沪深交易所发布《以上市公司质量为导向的保荐机构执业质量评价实施办法(试行...
近期美国所谓“对等关税”政策引发全球资产巨震,本周一科技板块调整尤为明显。为了稳定资本市场,汇金、央行等机构稳市打出组合...
记者|张乔遇半导体前道设备的国产化进程一直备受关注。截至2023年末,前道量检测设备的国内企业市场份额约...
界面新闻记者|龙力近期,部分全天候策略私募产品净值出现了较为明显的回撤。Wind数据显示,名称中含有...
记者王珍中国国际经济交流中心副理事长、国务院发展研究中心原副主任王一鸣周一在“中国发展高层论坛2025...
记者|赵阳戈年初,证监会就修改《证券发行与承销管理办法》部分条款向社会公开征求意见,市场也将注意力投向了...
界面新闻记者|龙力开年两个多月,不少头部量化私募都在积极“上新”。Wind数据显示,截至3月17日,...
2025年3月25日,倍轻松(688793.SH)公告称,公司股东宁波倍松投资有限公司(简称“宁波倍松”)拟通过大宗交易...
3月24日,海洋王照明科技股份有限公司(以下简称“海洋王”,002724.SZ)早盘一字跌停,此后股价拉涨,尾盘封涨停板...
2025年3月24日下午三点A股收盘后,港股科技板块持续走强至四点十分收盘。消息面上,一方面美元相对于人民币连续3个交易...