相信不少人都听说过,用 ChatGPT、豆包、DeepSeek、元宝来帮你写材料,学校里的领导、专家也喜欢在各种会上强调“要用 AI 给工作赋能”。但生成的内容通常会“假、大、空”,有时候会化身“胡说八道”生成器
这里我选择使用 Dify。将过去撰写过的资料,来构建一个私人的知识库,结合 LLM 模型,便能输出符合你个人写作风格、语言表达习惯的文章
1️⃣ 创建知识库
首先我们将各类文档分好大类,下一步则是筛选、取精,重复的语料对命中率的提升并无太大帮助,可以增加不同主题的覆盖率
文档上传到知识库后,需要对文档内容向量化处理。调整好分段方式、检索设置、Embedding 模型、Rerank 模型,点击保存并处理
2️⃣ 创建文本生成应用
进入工作室页面,点击创建空白应用。编辑页面分为两大块——编排与调试
前缀提示词也就是我们常说的 Prompt,你可以给 LLM 模型提前输入指令,提示词的设定很重要,告诉大模型需要充当什么角色、按照什么要求来生成文本
变量可以理解为我们在前端页面输入的内容。知识库选择我们刚才创建的知识库,在右上方选择你要使用的大模型,比如这里我使用 Doubao-1.5-Pro-32K
完成编排设置后,分别在文本框中输入内容,点击生成,等待数秒后,大模型便能生成一篇有模有样的“活动简报”
💡 除了可以使用 Dify 完成“文档生成”这种小活,还能通过扩展工具来增加 Dify 的可玩性
比如自己编写一个文本转换文档的功能 —— 自动将生成的文本转换为 Docx 格式的文档,亦或是连接上微信,在对话之间就能完成你的要求
以上是我对 Dify + LLM 模型的浅浅实践(大佬轻喷,生成的文本效果仍有待提高
比如在文本分段部分,根据文档的实际内容调整分段符号、Chunk 块长度,精细化应用的 Prompt 提示语,选用合适的模型都有助于改善文本的生成效果
信息来源:TG频道@NewlearnerChannel