最近,DeepSeek以其出色的性能在AI领域赚足了眼球,不少技术爱好者和行业从业者都迫不及待地想将它安装布置在本地,以便更自由、高效地使用。- 处理器:建议Intel Core i5或AMD Ryzen 5及以上处理器。
以下是一篇关于本地部署 DeepSeek 的图文教程,DeepSeek 包含 DeepSeek Coder 代码模型和 DeepSeek Chat 对话模型,这里以 DeepSeek Coder 为例进行说明,部署环境为 Linux 系统,使用 GPU 加速推理。
于是,今天下午在网上查找了本地部署的教程,在老本上安装了ollama,看网上说8G内存就可以跑8b的,于是我降一档,部署7b,结果进度条进进退退两个小时都下载不完最终换成1.5b的,大小只有1.1G,但最后那10%左右都下载了好久,好歹在下班前成功了。