在线编程平台 Replit 分享了一篇如何使用 Databricks、Hugging Face 和 MosaicML 训练大型语言模型的文章，分享了他们在训练自家编程大模型的过程、经验和教训，他们把整个过程分为三个阶段，数据管道、模型训练和推理。
例如，最新的吵的沸沸扬扬的ruozhi吧数据也还不错的COIG-CQIA: Quality is All You Need for Chinese Instruction Fine-tuning，提供了一个高质量的中文数据集。
随着Llama 3的横空出世，大模型的格局再度发生变化，光是Llama 3 70B的能力，就已经可以和Claude 3 Sonnet 或者Gemini 1.5 Pro等量齐观，甚至超过了GPT-4的表现，放在数个月前，这样的场景是无法想象的。
21世纪资管研究院研究员李览青、杨梦雪摘要：“大模型”无疑是2023年最热的关键词之一，随着大模型概念的崛起和广泛传播，金融行业因被视作最优落地场景也同步掀起了一轮热潮。大模型究竟会给金融行业带来什么？它会在何种程度上重塑技术和业务，会衍生出怎样的商业价值？
