服务器部署ollama

资讯

服务器部署开源大模型完整教程 Ollama+Gemma+open-webui
第一步选择系统版本:因为大模型需要的GPU来运算，当然其实CPU也可以，但我们今天讲的是要用GPU来跑的，所以我们在购买服务器的时候，一定要选择GPU服务器，然后看看服务器的系统版本对GPU显卡支持的更好。
猫猫不可侵犯
78评论
Llama3 中文版本地环境搭建和部署实战ollama版
这两天科技新闻中Llama 3消息刷爆了，中国时间 2024 年 4 月 19 日 0 点 0 分，Meta Llama 3 发布。
80周辉
36评论
折腾Ollama + CodeGPT 在 VSCode 中构建自己的本机智能开发助手
看到CodeGPT支持ollama，于是就想尝试用Ollama + CodeGPT构建私有环境的开发助手。先在VS Code上安装CodeGPT，发现果然有ollama选项。
北方的郎
7评论
DeepSeek本地部署，再也不怕服务器崩了！
虽然我们可以在本地正常使用 Deepseek 这个模型了，但是这个 AI 工具的面板是非常简陋的，很多人使用不习惯，这时我们就可以通过 Chatbox 这个可视化图文交互界面来使用它。
极梦小屋
17评论
Deepseek爆火服务器瘫痪？全自救指南：满血版+移动端保姆级教程
这已经不是偶尔发生，而是很难畅快的正常使用了，以至于都有了这样的一个梗图:不论是 iOS 用户，还是安卓用户，都可以下载一个叫做PocketPal AI 的软件。
李明殊
3评论

视频