界面新闻记者 | 彭新界面新闻编辑 | 在英伟达凭借其GPU(图形处理器)赢得AI计算市场绝大部分份额之际,另一大GPU巨头AMD何时推出有竞争力的产品,成了行业普遍关心的话题。如今,后者终于给出正面回应。
通过这种优化方法,在最新的 Llama2 的 7B 和 13B 模型中,如果用一块 AMD Radeon RX 7900 XTX 速度可以达到英伟达 RTX 4090 的 80%,或是 3090Ti 的 94%。
AMD人工智能事业部高级总监王宏强谈道,AMD在单个GPU能做到上千T的浮点算力规模,通过多节点横向扩展,更是能达到每秒百亿亿次浮点计算能力,并提供额外的超大内存容量及带宽,可实现700亿参数级大模型在单个GPU上的部署,并达到更高的TCO。
不过,如果我们可以用A卡代替N卡,甚至不需要GPU就可以训练大模型,一切又会发生怎样的变化呢?通过这种优化方法,在最新Llama2的7B和13B模型中,用一块AMD Radeon RX 7900 XTX,速度已可达到英伟达RTX 4090的80%,或是3090Ti的94%。
一年一度的RiceOil and Gas HPC还未结束,根据Intersect 360 Research分析师Addison Snell 昨天的推文显示,AMD宣布,未来的Epyc + Radeon将会基于Infinity Fabric,在GPU和CPU之间采用内存一致性,类似
IT之家讯 使用AMD GPU并且已经安装Windows1010122预览版的计算机用户可以在Windows Update中检查bug修复更新。此次更新主要解决Microsoft Edge浏览器在装有AMD显卡计算上奔溃的问题。
随着国产GPU(图形处理器)芯片的兴起,如何将进口和国产GPU有效结合在一起,打造异构芯片算力集群,成为发展人工智能的一个重要问题。2024世界人工智能大会上,上海企业无问芯穹发布了业内首个千卡规模异构芯片混训平台,其算力利用率最高达到97.6%。
英伟达在三个月前发布了大模型专用芯片H100 NVL,作为GPU赛道上的老对手,AMD选择正面迎击。经过一个多月的预热,6月14日凌晨,AMD在旧金山召开“AMD数据中心与人工智能技术首映会”,并在会上展示了其即将推出的AI处理器系列。
沉寂已久的服务器领域近乎开了场春晚,之所以这么引人关注,还是因为今年大火的ChatGPT将人工智能再度推上风口浪尖,英伟达GPU变成AI玩家们争夺算力的抢手金砖,A100价格从去年12月一路上涨,5个月价格累计涨幅达到37.5%,同期其阉割版的A800价格累计涨幅达20.0%。