界面新闻记者 | 彭新界面新闻编辑 | 在英伟达凭借其GPU(图形处理器)赢得AI计算市场绝大部分份额之际,另一大GPU巨头AMD何时推出有竞争力的产品,成了行业普遍关心的话题。如今,后者终于给出正面回应。
AMD人工智能事业部高级总监王宏强谈道,AMD在单个GPU能做到上千T的浮点算力规模,通过多节点横向扩展,更是能达到每秒百亿亿次浮点计算能力,并提供额外的超大内存容量及带宽,可实现700亿参数级大模型在单个GPU上的部署,并达到更高的TCO。
通过这种优化方法,在最新的 Llama2 的 7B 和 13B 模型中,如果用一块 AMD Radeon RX 7900 XTX 速度可以达到英伟达 RTX 4090 的 80%,或是 3090Ti 的 94%。