GitHub 仓库:GitHub - ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.
入门开源大语言模型,最好的工具就是ollama,这是一款简单的大模型本地部署框架,支持基于命令行的方式运行多种大语言模型,并提供了相应的Python和JS SDK,可以基于此方便实现Chatbot UI。
. 下载Ollama访问Ollama的官方网站,找到适合您操作系统的安装包。Ollama支持多种操作系统,包括Windows、macOS和Linux。根据您的系统选择合适的版本进行下载,此处下载Windows版。Windows用户:下载.exe安装文件。2.
点击“Click to upload or drag and drop”,选择刚才提到的那个word文档,上传之后选中文档,点击“Move to Workspace”,然后在右侧的界面点击“Save and Embed”,点击后会有提交成功的提示,这个文档就已经投喂给了大模型。
你可以通过 $ docker compose version 命令检查版本,详细说明请参考 Docker 官方文档:如果版本是 Docker Compose V2,使用以下命令:如果版本是 Docker Compose V1,使用以下命令:运行命令后,你应该会看到类似以下的输出,显示所有容器的状态和端口映射: