Meta正式发布并开源了Llama 3系列模型，本次发布了8B和70B的预训练及指令微调语言模型。这个模型发布后，国内大模型收费的念头基本可以断绝了；楼主亲测，在 华为笔记本上（11th Gen Intel(R) Core(TM) i5-1135G7 @ 2.40GHz 2.
Ollama提供了REST API与本地部署的大模型，如本例中的llama3，进行交互，使用命令 ollama serve 启动本地服务器，就可以通过API调用本地部署的大模型，然后在API基础上定制自己的大模型应用了。
Meta 首席科学家、图灵奖获得者 Yann LeCun 也在自己的账号上硬核推荐了自己的最新开源模型——支持 8k 长文本，在 24k GPU 集群上使用超过 15T tokens 进行训练，在多项评测基准中表现优异，部分任务中，Llama 3-8B 的表现优于 Llama 2-70B。
在上期文章中，我们简要回顾了Llama模型的概况，本期文章我们将详细探讨【关于Llama 2】，你需要知道的那些事儿。01Llama 2的性能有多好？作为Meta新发布的SOTA开源大型语言模型，Llama 2是Llama模型的延续和升级。
希望通过本系列教程，带领大家学会如何把自己的 PyTorch 模型部署到 ONNX Runtime/TensorRT 上，并学会如何把 OpenMMLab 开源体系中各个计算机视觉任务的模型用 MMDeploy 部署到各个推理引擎上。
结果:According to the provided information， there is only one student with an address of 柳州:id: 7， name: 伍军， age: 17， address: 柳州， sex: 女。
和 GPT 系列一样，LLaMA 模型也是 Decoder-only 架构，但结合前人的工作做了一些改进，比如:Pre-normalization . 为了提高训练稳定性，LLaMA 对每个 transformer 子层的输入进行归一化，使用 RMSNorm 归一化函数，Pre-normalization 由Zhang和Sennrich引入。
