在2022年发布的ChatGPT,引爆互联网,更是让人工智能聊天程序进了一大步。如“这道题犯了一个语法错误,应该是Once upon a time,there was a beautiful princess named Sleeping Bleeping Beauty.She slept for 100...
最近很高兴有机会较为全面深入地研究GPT / ChatGPT这一热门技术,学到了不少东西,当然也遇到不少问题,其中一个问题就是,所有的GPT模型,都会有输入输出长度的限制这个问题,就好像一个紧箍咒似的。
我们最近做了一个有趣的新工作,With Greater Text Comes Greater Necessity: Inference-Time Training Helps Long Text Generation,提出了一种全新的思路,来支持无限长文本生成。