在开源类别中，出于以下的原因，你可能会考虑过在本地计算机上本地运行LLM :脱机:不需要互联网连接。尽管在使用GPT-4、Bard和claude 2等基于云的模型时，隐私问题可能被夸大了，但在本地运行模型可以避免任何问题。
来源：宿迁网 Meta刚发布的最新开源大模型Llama 3系列，现已上线国家超算互联网。即日起，开发者可限时免费在国家超算互联网上搭建专属开发环境、使用专属微调大模型，“一键”开启Llama 3推理。欢迎广大AI开发者登录国家超算互联网，搜索“Llama”关键词注册体验。
近日，朱泽园 和李远志 的最新研究《语言模型物理学 Part 3.3:知识的 Scaling Laws》用海量实验总结了 12 条定律，为 LLM 在不同条件下的知识容量提供了较为精确的计量方法。作者研究了三种类型的合成数据:bioS、bioR、bioD。
Ollama提供了REST API与本地部署的大模型，如本例中的llama3，进行交互，使用命令 ollama serve 启动本地服务器，就可以通过API调用本地部署的大模型，然后在API基础上定制自己的大模型应用了。
·Meta发布Llama 3.1开源大模型系列，包括最大的版本Llama 3.1 405B，轻量级的Llama 3.1 8B和Llama 3.1 70B，任何人都可以免费使用。扎克伯格表示，开源人工智能是前进之路，人工智能开发将继续保持非常激烈的竞争，开源正在迅速缩小差距。
