自去年年底ChatGPT问世以来,近半年多来,全球掀起了大模型热潮。对人工智能的巨大需求也暴露了全球用于开发和部署人工智能模型的芯片供应链的局限性。作为可帮助运行人工智能训练和部署人工智能算法的关键硬件,GPU正在面临巨大的缺口。
据媒体报道,沙特和阿联酋正在购买数千颗高性能英伟达芯片,这种芯片对构建人工智能系统至关重要。这两个海湾地区的强国已公开表示,他们的目标是成为人工智能领域的领导者,因为他们正在推进雄心勃勃的经济转型计划,以加速其经济发展。
南方财经全媒体记者江月 上海报道人工智能依然是最热门的科技投资方向,这推动英伟达的算力芯片供不应求、价格高昂。由英伟达开发、在数据中心中提供算力的H100芯片,是目前市面上性能领先的旗舰级产品,在其发布17个月、流入市场12个月之际,海外散货市场的采购价格仍然高达4.5万美元。
每经记者:蔡鼎 每经编辑:兰素英自去年以来,人工智能的热潮席卷全球,但时至今日,该领域的一个核心挑战仍是价格高昂的算力。相对于大型企业,对初创公司来说,能否获得处理AI所需的巨大算力负荷的芯片成了决定成败的关键。
界面新闻记者 | 李彪界面新闻编辑 | 宋佳楠近日,一篇题为“英伟达H100 GPU海外租金价格降至2美元/小时”的文章迅速在国内传播开来,市场也纷纷围绕“算力泡沫是否开始破裂”“H100算力不香了”等话题进行讨论。此前美国一家AI推理服务供应商Featherless.
前言,最近看到一个视频号的作品《英伟达的显卡是如何生产的》其中分析了H100 GPU的成本和毛利率,非常夸张高达90%以上,成本组成主要有晶圆材料、HBM内存、台积电代工等,按照SXM H100的国内市场价25W一张,到底是如何计算的呢?
就在3月底的GTC 2022大会上,英伟达发布了全新一代的琥珀架构GPU,同时也推出了基于琥珀架构的H100计算卡,相比较于上一代的安培计算卡,琥珀计算卡在绝对性能上有着飞一般的提升,部分测试项目更是提升了数倍,而琥珀计算卡也采用了台积电的4nm制程,从而在晶体管密度上远胜目前的三星8nm制程。
北京时间2023年10月17日晚间,美国政府公布了《临时最终规则》,对于高性能计算芯片对华出口限制规则进行了升级。今天,英伟达(NVIDIA)依照上市公司规则提交了8-K文件,对于与其相关的限制政策及影响进行了说明。