界面新闻记者 | 彭新界面新闻编辑 | 在英伟达凭借其GPU(图形处理器)赢得AI计算市场绝大部分份额之际,另一大GPU巨头AMD何时推出有竞争力的产品,成了行业普遍关心的话题。如今,后者终于给出正面回应。
1. 背景近几年,随着“大模型”概念的提出,深度学习模型越来越大,如何训练这些大模型成为一个亟待解决的工程问题。最初的视觉模型只有几百兆的参数量,而现在的语言模型中,动则百亿,千亿的参数量,甚至万亿的大模型也是见怪不怪。如此巨大的参数量将会消耗巨大的存储空间。
通过这种优化方法,在最新的 Llama2 的 7B 和 13B 模型中,如果用一块 AMD Radeon RX 7900 XTX 速度可以达到英伟达 RTX 4090 的 80%,或是 3090Ti 的 94%。
AMD人工智能事业部高级总监王宏强谈道,AMD在单个GPU能做到上千T的浮点算力规模,通过多节点横向扩展,更是能达到每秒百亿亿次浮点计算能力,并提供额外的超大内存容量及带宽,可实现700亿参数级大模型在单个GPU上的部署,并达到更高的TCO。
今年以来,PC业界最大的风口毫无疑问就是“AI”了,从年初的Stable Diffusion AI绘画到后来的ChatGPT,仿佛一夜之间PC里沉寂已久的庞大算力找到了出头之日,各路热点关注纷纷涌向AI计算,各厂商一夜之间纷纷推出自己的模型,显卡价格暴涨,随后迎来制裁...
沉寂已久的服务器领域近乎开了场春晚,之所以这么引人关注,还是因为今年大火的ChatGPT将人工智能再度推上风口浪尖,英伟达GPU变成AI玩家们争夺算力的抢手金砖,A100价格从去年12月一路上涨,5个月价格累计涨幅达到37.5%,同期其阉割版的A800价格累计涨幅达20.0%。
我买了张显卡坞。具体的情况是这样的,去年好几家国产掌机厂商不都出了用AMD移动端显卡做核心的显卡坞嘛,当时这类产品的定价普遍都要5000元上下,虽然比ROG的显卡坞是便宜了不少,但是依然卖到了一台完整笔记本/Windows掌机的价钱,有多少人愿意支持也就可想而知了。