下面介绍用 FastGpt + Oneapi + Gemma:2b + M3E + Mongo + Pg + Ollama-webui 搭建的本地知识库，系统运行环境为 centos7，cpu 4核，内存 16G。
克雷西 发自 凹非寺量子位 | 公众号 QbitAIMac用户，终于不用羡慕N卡玩家有专属大模型Chat with RTX了！大神推出的新框架，让苹果电脑也跑起了本地大模型，而且只要两行代码就能完成部署。
第一步选择系统版本:因为大模型需要的GPU来运算，当然其实CPU也可以，但我们今天讲的是要用GPU来跑的，所以我们在购买服务器的时候，一定要选择GPU服务器，然后看看服务器的系统版本对GPU显卡支持的更好。
例如，最新的吵的沸沸扬扬的ruozhi吧数据也还不错的COIG-CQIA: Quality is All You Need for Chinese Instruction Fine-tuning，提供了一个高质量的中文数据集。
