编辑：编辑部【新智元导读】时隔一年，FlashAttention又推出了第三代更新，专门针对H100 GPU的新特性进行优化，在之前的基础上又实现了1.5～2倍的速度提升。FlashAttention又有后续了！
南方财经全媒体记者江月 上海报道人工智能依然是最热门的科技投资方向，这推动英伟达的算力芯片供不应求、价格高昂。由英伟达开发、在数据中心中提供算力的H100芯片，是目前市面上性能领先的旗舰级产品，在其发布17个月、流入市场12个月之际，海外散货市场的采购价格仍然高达4.5万美元。
NVIDIA H100集成了800亿个晶体管，采用台积电N4工艺，是全球范围内最大的加速器，拥有Transformer引擎和高度可扩展的NVLink互连技术等功能，可推动庞大的AI语言模型、深度推荐系统、基因组学和复杂数字孪生的发展。
Blackwell B200 GPU，是如今世界上最强大的AI芯片，旨在「普惠万亿参数的AI」。本来，H100已经使英伟达成为价值数万亿美元的公司，赶超了谷歌和亚马逊，但现在，凭着Blackwell B200和GB200，英伟达的领先优势还要继续领先。
在2022年3月NVIDIA GTC大会上，NVIDIA创始人兼CEO黄仁勋介绍了一款基于全新Hopper架构的H100 GPU，这是英伟达迄今用于加速人工智能、高性能计算和数据分析等任务的最强GPU芯片。H100具有800亿个晶体管，在性能上堪称NVIDIA的“新核弹”。
英伟达强调，基于全新Hopper 架构的H100 GPU 为加速大规模AI 及高效能运算树立了新标准，并带来六项突破性创新:1. H100 拥有800 亿个晶体管，采用台积电4N 工艺制程、专为满足NVIDIA 加速运算需求而设计，在AI加速、高效能计算、内存带宽、互连和通信方面具有重大进展，包括每秒近5TB 的外部连接速度。
界面新闻记者 | 彭新界面新闻编辑 | 文姝琪“我们离倒闭永远只有30天。”这是英伟达创始人黄仁勋的口头禅。这话从英伟达老板口中说出颇为古怪，因为这家公司作为游戏和人工智能芯片的领头羊，已经拥有对手难以比及的丰厚利润。但曾经，英伟达的确面临过资金耗尽、濒临破产的窘境。
