通过这种优化方法，在最新的 Llama2 的 7B 和 13B 模型中，如果用一块 AMD Radeon RX 7900 XTX 速度可以达到英伟达 RTX 4090 的 80%，或是 3090Ti 的 94%。
1. 背景近几年，随着“大模型”概念的提出，深度学习模型越来越大，如何训练这些大模型成为一个亟待解决的工程问题。最初的视觉模型只有几百兆的参数量，而现在的语言模型中，动则百亿，千亿的参数量，甚至万亿的大模型也是见怪不怪。如此巨大的参数量将会消耗巨大的存储空间。
一直以来，Nvidia除了投入大量的人力物力用于图形显卡/高性能计算的研发外，还积极地在发展 AI，在过去也出过不少作品，比如将涂鸦转变成风景图的Nvidia Canvas、影像降噪工具Noise2Noise等，现在Nvidia又有新作，能够将你输入的文字判读后直接生成图片。
齐鲁网·闪电新闻8月9日讯 显卡是计算机最基本、最重要的配件之一，显卡越好，画面就越流畅，画质就越好，显卡的价格也就越贵。于是，有人打上了显卡的主意。日前，滨州滨城警方端掉了一个生产、销售假冒注册商标显卡的犯罪团伙，案值超过1500万元。
