简介Ollama 是一个轻量级、可扩展的框架，旨在帮助用户在本地机器上构建和运行大型语言模型。它提供了一个简单的 API 用于创建、运行和管理模型，并附带了一个预建模型库，这些模型可以轻松地应用于各种应用程序中。
入门开源大语言模型，最好的工具就是ollama，这是一款简单的大模型本地部署框架，支持基于命令行的方式运行多种大语言模型，并提供了相应的Python和JS SDK，可以基于此方便实现Chatbot UI。
该模型在视觉识别、图像推理、图像描述和回答与图像相关的问题方面表现出色，在多个行业基准测试中优于现有的开源和闭源多模态模型。OllamaOCR也支持MiniCPM模型，如果需要提取图像中的中文文本，这很有用。
前言相信这个春节大家都被deepseek刷屏了，写本篇文章是因为我经历过了各种付费+测试之后很艰难想入手大模型，国内的同学学技术还是太困难了，但是看到市面上各种火爆，实在有按捺不住想体验,终于迎来了一个契机。
从技术角度来说，AI 代理是一种软件实体，旨在代表用户或其他程序自主或半自主地执行任务。总之，AI 代理是强大的工具，可以自动化和增强各种活动，从简单的重复任务到复杂的问题解决场景，使它们在各种应用和行业中都具有无价的价值。
国产大模型deepseek一出世就震惊了全世界，让业界老大openai的ChatGPT都不香了。我们进入deepseek-r1模型的页面会看到有几种规格，选择其中一个之后，复制后面的命令:ollama run deepseek-r1。
本地可以运行的AI 大语言模型环境，支持Windows、Linux以及MacOS，家庭笔记本都可以运行。Ollama 下载地址： https://ollama.com/download下载 完成后，双击OllamaSetup.exe 运行，根据向导完成安装，过程比较简单。
你可以通过 $ docker compose version 命令检查版本，详细说明请参考 Docker 官方文档:如果版本是 Docker Compose V2，使用以下命令:如果版本是 Docker Compose V1，使用以下命令:运行命令后，你应该会看到类似以下的输出，显示所有容器的状态和端口映射:
它结合了后端即服务 和 LLMOps 的概念，使开发人员能够快速构建生产级生成式 AI 应用。通过集成构建 LLM 应用所需的关键技术栈，包括对数百个模型的支持、直观的提示词编排界面、高质量的检索增强生成 引擎以及灵活的 Agent 框架，同时提供了一组易于使用的界面和 API，Dify 为开发人员节省了大量时间避免重复造轮子，让他们可以专注于创新和业务需求。
