如何计算大模型到底需要多少显存,是常常被问起的问题,现从实用角度再介绍一个简单公式和一个工具方便大家工作中使用。1)估算公式(该公式来自于Sam Stoelinga简化[1])符号描述M用千兆字节 (GB) 表示的 GPU 内存P模型中的参数数量。
数据中心、边缘机房、教育科研和个人开发者都在关注。文|梦晨 金磊来源|量子位(ID:QbitAI)着实有点Amazing啊。这两天GPU圈子发生了个事儿,被网友们讨论地津津乐道——有一款显卡卖爆了。火到什么程度呢?就是一进货就被抢光。
用的软件叫Stable Diffusion,是一款免费开源软件,在电脑上运行,电脑显存最少要8G,最好是12G左右,我目前有三台电脑,一台装24G的4090显卡,一台装12G的3060显卡,再一台是装了8G的2070显卡,今天主要用3060和4090做一次速度对比的展示,今天输入的参数为生成一批穿着日本衣服的女孩.
海外玩家 @TechPractice1 用 AMD R5 4600G 这款 APU 搞出了「显存扩容」操作。R5 4600G 算是 AMD 的上上代产品,Zen2 架构 6核心12线程,65W TDP 。
最近的Ai圈可以说是太火了,前段时间我们编辑部去参加了中国电子博览会,其中绝大部分的展商都是来自高性能服务器的品牌,我们有幸还对其中一家品牌进行了采访:《亿万克|助力节能数据中心建设;打造云端数字底座!》。