此 RAG 聊天应用程序利用 LangChain 的 RetrievalQA 和 ChromaDB,从 ChromaDB 的嵌入数据中提取相关、准确的信息,高效地响应用户查询,展示了高级生成式 AI 能力。
最近人们都在研究ChatGPT,大语言模型(LLM)彻底改变了科技领域的格局,但对于AI开发者来说,并不是人人都有上万块A100的。为了跑得起大模型,就要寻找各种优化方法。在让大模型变小这条路上,人们做了很多尝试,先是Meta开源了LLaMA,让学界和小公司可以训练自己的模型。