Ollama提供了REST API与本地部署的大模型,如本例中的llama3,进行交互,使用命令 ollama serve 启动本地服务器,就可以通过API调用本地部署的大模型,然后在API基础上定制自己的大模型应用了。
来源:宿迁网 Meta刚发布的最新开源大模型Llama 3系列,现已上线国家超算互联网。即日起,开发者可限时免费在国家超算互联网上搭建专属开发环境、使用专属微调大模型,“一键”开启Llama 3推理。欢迎广大AI开发者登录国家超算互联网,搜索“Llama”关键词注册体验。