如何计算大模型到底需要多少显存,是常常被问起的问题,现从实用角度再介绍一个简单公式和一个工具方便大家工作中使用。1)估算公式(该公式来自于Sam Stoelinga简化[1])符号描述M用千兆字节 (GB) 表示的 GPU 内存P模型中的参数数量。
用的软件叫Stable Diffusion,是一款免费开源软件,在电脑上运行,电脑显存最少要8G,最好是12G左右,我目前有三台电脑,一台装24G的4090显卡,一台装12G的3060显卡,再一台是装了8G的2070显卡,今天主要用3060和4090做一次速度对比的展示,今天输入的参数为生成一批穿着日本衣服的女孩.
数据中心、边缘机房、教育科研和个人开发者都在关注。文|梦晨 金磊来源|量子位(ID:QbitAI)着实有点Amazing啊。这两天GPU圈子发生了个事儿,被网友们讨论地津津乐道——有一款显卡卖爆了。火到什么程度呢?就是一进货就被抢光。
这是一个很不错的问题,我自己玩GTX1650显卡,4G显存,玩Control这款游戏的时候,显存爆满了,帧数直接下降了30%,从此处,我知道了显存这东西,不见声响的时候,突然给你来一刀,让你的显卡早点退休。