就在3月底的GTC 2022大会上，英伟达发布了全新一代的琥珀架构GPU，同时也推出了基于琥珀架构的H100计算卡，相比较于上一代的安培计算卡，琥珀计算卡在绝对性能上有着飞一般的提升，部分测试项目更是提升了数倍，而琥珀计算卡也采用了台积电的4nm制程，从而在晶体管密度上远胜目前的三星8nm制程。
今年随着ChatGPT的火爆，各大厂商对于算力的需求达到了前所未有的程度，尤其是英伟达的H100计算卡，更是抢购一空，不过英伟达似乎也没有预料到自家的H100计算卡这么受欢迎，原本80GB的显存居然还不够用，于是现在英伟达对H100计算卡进行特别的定制，为用户打造拥有不同规格的H100计算卡，以满足不同领域的需求，比如说显存容量最高可以达到120GB。
9月17日消息，据tomshardware报道，得益于人工智能（AI）领域的持续火爆，AI芯片大厂英伟达（NVIDIA）在2024财年第二财季（截止2023年7月30日）销售了价值103亿美元的数据中心硬件，其中包括了大量的A100及最新一代的H100加速卡。
编辑：庸庸 好困【新智元导读】在Meta的Llama 3.1训练过程中，其运行的1.6万个GPU训练集群每3小时就会出现一次故障，意外故障中的半数都是由英伟达H100 GPU和HBM3内存故障造成的。随着大模型的迭代，其GPU用量也在不断增长。
南方财经全媒体记者江月 上海报道人工智能依然是最热门的科技投资方向，这推动英伟达的算力芯片供不应求、价格高昂。由英伟达开发、在数据中心中提供算力的H100芯片，是目前市面上性能领先的旗舰级产品，在其发布17个月、流入市场12个月之际，海外散货市场的采购价格仍然高达4.5万美元。
编者按：劲敌频现，英伟达守擂AI卷的竞争再次白热化。视频生成模型Sora火爆全球后，Groq的大模型又引发市场热烈讨论，与此同时，微软正在研发一款全新网卡，或将摆脱“英伟达依赖”。自大模型兴起以来，英伟达的GPU芯片一卡难求，但如今，其已身在对手的包围圈中。
