llm-course在上次介绍（北方的郎：llm-course，狂飙13.5K Star，GitHub上最全的开源大模型教程）后又有了更新，增加了新的章节包括“LLM工程师”等部分，Star也狂飙到了25K。GitHub地址：https://github.
编辑：编辑部【新智元导读】面对LLM逐渐膨胀的参数规模，没有H100的开发者和研究人员们想出了很多弥补方法，「量化」技术就是其中的一种。这篇可视化指南用各种图解，将「量化」的基本概念和分支方法进行了全方位总结。大语言模型（LLM）通常过于庞大，无法在消费级硬件上运行。
其实，一个仅有解码器的语言模型只是一个标记xi在给定的上下文x1····xi−1 下的条件分布p，该公式假定这一过程为马尔可夫过程，并已经在许多用例中进行了研究，通过这一简单的设置，便可以以自回归的方式逐个生成标记。
