在过去的几年中,研究人员专注于每种单一模态的生成,并取得了巨大进步:在文本生成方面,我们见证了文本生成效果的质的飞跃:从BERT 、GPT1 、GPT2 、GPT3 、GPT4 到ChatGPT 、LLaMA 、,模型参数的数量和训练样本的增长迅速,导致模态能力和产品部署的持续增长。