忘记昂贵的NVIDIA GPU，Exo 项目通过将现有设备（如 iPhone、iPad、Android、Mac、Linux）统一成一个强大的 GPU，使用户能够运行比单个设备更大的模型。该项目支持广泛的模型和动态模型分区，自动发现设备，并提供与 ChatGPT 兼容的 API。
界面新闻记者 崔鹏9月7日，在2023腾讯全球数字生态大会上，腾讯混元大模型正式对外亮相，同时宣布通过腾讯云对外开放。腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示，混元大模型是由腾讯全链路自研的通用大语言模型，拥有超千亿参数规模，预训练语料超2万亿tokens。
在线编程平台 Replit 分享了一篇如何使用 Databricks、Hugging Face 和 MosaicML 训练大型语言模型的文章，分享了他们在训练自家编程大模型的过程、经验和教训，他们把整个过程分为三个阶段，数据管道、模型训练和推理。
其实，一个仅有解码器的语言模型只是一个标记xi在给定的上下文x1····xi−1 下的条件分布p，该公式假定这一过程为马尔可夫过程，并已经在许多用例中进行了研究，通过这一简单的设置，便可以以自回归的方式逐个生成标记。
未来，MOSS的优化将会围绕三方面展开。 复旦大学供图中新网上海3月2日电 (陈静 殷梦昊 许文嫣)由美国OpenAI公司开发的ChatGPT模型在全球点燃了新一轮AI热潮。前不久，复旦大学计算机科学技术学院邱锡鹏团队发布类ChatGPT模型MOSS，备受关注。
