2020 年，通过增加大模型参数量的方法，OpenAI 在具有 1750 亿参数量的 GPT-3 上发现，大模型可以根据提示词中提供的信息，来执行新任务或改进现有任务。随后他们趁热打铁，一起研究能否使用上下文学习，来替代成本高昂的指令微调方法。
对于每一位IT售前而言，与数万字的招标文件打交道是“工作日常”，他们不仅需要在几百页的招标文件中抽丝剥茧找到关键信息，还要在瞬息万变的市场中迅速捕捉商机。面对多元化、专业化的IT业务需求，每一个细节都不容有失。
例如，最新的吵的沸沸扬扬的ruozhi吧数据也还不错的COIG-CQIA: Quality is All You Need for Chinese Instruction Fine-tuning，提供了一个高质量的中文数据集。
