克雷西 发自 凹非寺量子位 | 公众号 QbitAIMac用户,终于不用羡慕N卡玩家有专属大模型Chat with RTX了!大神推出的新框架,让苹果电脑也跑起了本地大模型,而且只要两行代码就能完成部署。
希望通过本系列教程,带领大家学会如何把自己的 PyTorch 模型部署到 ONNX Runtime/TensorRT 上,并学会如何把 OpenMMLab 开源体系中各个计算机视觉任务的模型用 MMDeploy 部署到各个推理引擎上。
例如,最新的吵的沸沸扬扬的ruozhi吧数据也还不错的COIG-CQIA: Quality is All You Need for Chinese Instruction Fine-tuning,提供了一个高质量的中文数据集。