内容目录
🤖️ 一种利用 ChatGLM-6B + langchain 实现的基于本地知识的 ChatGLM 应用。
💡 受 GanymedeNil 的项目 document.ai 和 AlexZhangji 创建的 ChatGLM-6B Pull Request 启发,建立了全部基于开源模型实现的本地知识问答应用。
✅ 本项目中 Embedding 选用的是 GanymedeNil/text2vec-large-chinese,LLM 选用的是 ChatGLM-6B。依托上述模型,本项目可实现全部使用开源模型离线私有部署。
⛓️ 本项目实现原理如下图所示,过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的top k
个 -> 匹配出的文本作为上下文和问题一起添加到prompt
中 -> 提交给LLM
生成回答。
🚩 本项目未涉及微调、训练过程,但可利用微调或训练对本项目效果进行优化。
赞赏微信赞赏支付宝赞赏
数据统计
数据评估
关于langchain-ChatGLM特别声明
本站AIHunt | 几百个AI工具导航,国内外AI工具导航大全提供的langchain-ChatGLM都来源于网络,不保证外部链接的准确性和完整性,同时,对于该外部链接的指向,不由AIHunt | 几百个AI工具导航,国内外AI工具导航大全实际控制,在2023-04-23 14:50收录时,该网页上的内容,都属于合规合法,后期网页的内容如出现违规,可以直接联系网站管理员进行删除,AIHunt | 几百个AI工具导航,国内外AI工具导航大全不承担任何责任。
相关导航
暂无评论...