前言,最近看到一个视频号的作品《英伟达的显卡是如何生产的》其中分析了H100 GPU的成本和毛利率,非常夸张高达90%以上,成本组成主要有晶圆材料、HBM内存、台积电代工等,按照SXM H100的国内市场价25W一张,到底是如何计算的呢?
9月17日消息,据tomshardware报道,得益于人工智能(AI)领域的持续火爆,AI芯片大厂英伟达(NVIDIA)在2024财年第二财季(截止2023年7月30日)销售了价值103亿美元的数据中心硬件,其中包括了大量的A100及最新一代的H100加速卡。
南方财经全媒体记者江月 上海报道人工智能依然是最热门的科技投资方向,这推动英伟达的算力芯片供不应求、价格高昂。由英伟达开发、在数据中心中提供算力的H100芯片,是目前市面上性能领先的旗舰级产品,在其发布17个月、流入市场12个月之际,海外散货市场的采购价格仍然高达4.5万美元。
下面就让我们来看看本场GTC大会的完整干货:1、H100 GPU:采用台积电4N工艺,拥有800亿个晶体管,实现了首个GPU机密计算,相比A100,FP8性能提升6倍,FP16、TF32、FP64性能各提升3倍。
英伟达强调,基于全新Hopper 架构的H100 GPU 为加速大规模AI 及高效能运算树立了新标准,并带来六项突破性创新:1. H100 拥有800 亿个晶体管,采用台积电4N 工艺制程、专为满足NVIDIA 加速运算需求而设计,在AI加速、高效能计算、内存带宽、互连和通信方面具有重大进展,包括每秒近5TB 的外部连接速度。