今年随着ChatGPT的火爆，各大厂商对于算力的需求达到了前所未有的程度，尤其是英伟达的H100计算卡，更是抢购一空，不过英伟达似乎也没有预料到自家的H100计算卡这么受欢迎，原本80GB的显存居然还不够用，于是现在英伟达对H100计算卡进行特别的定制，为用户打造拥有不同规格的H100计算卡，以满足不同领域的需求，比如说显存容量最高可以达到120GB。
9月17日消息，据tomshardware报道，得益于人工智能（AI）领域的持续火爆，AI芯片大厂英伟达（NVIDIA）在2024财年第二财季（截止2023年7月30日）销售了价值103亿美元的数据中心硬件，其中包括了大量的A100及最新一代的H100加速卡。
编辑：庸庸 好困【新智元导读】在Meta的Llama 3.1训练过程中，其运行的1.6万个GPU训练集群每3小时就会出现一次故障，意外故障中的半数都是由英伟达H100 GPU和HBM3内存故障造成的。随着大模型的迭代，其GPU用量也在不断增长。
南方财经全媒体记者江月 上海报道人工智能依然是最热门的科技投资方向，这推动英伟达的算力芯片供不应求、价格高昂。由英伟达开发、在数据中心中提供算力的H100芯片，是目前市面上性能领先的旗舰级产品，在其发布17个月、流入市场12个月之际，海外散货市场的采购价格仍然高达4.5万美元。
编者按：劲敌频现，英伟达守擂AI卷的竞争再次白热化。视频生成模型Sora火爆全球后，Groq的大模型又引发市场热烈讨论，与此同时，微软正在研发一款全新网卡，或将摆脱“英伟达依赖”。自大模型兴起以来，英伟达的GPU芯片一卡难求，但如今，其已身在对手的包围圈中。
