智聊
智聊是用于探索 Dify 能力边界的对话型应用。
在我们和自然语言大模型对话时,经常会遇到回答内容过期或者失效的情况,这是由于大模型的训练数据较老以及无联网能力导致的,智聊在大模型的基础上,利用代理(Agent) 的能力以及一些工具为大模型赋予了联网实时查询的能力。
智聊支持使用插件和数据集。
使用插件
大语言模型不能联网和调用外部工具。但这不能满足实际的使用场景,比如:
我们想知道今天的天气时,需要联网。
我们想总结某个网页的内容时,需要使用外部工具:读取网页内容。
使用代理模式,可以解决上面的问题:当大语言模型没法解答用户的问题时,会尝试使用现有的插件来解答问题。
在 Dify 中,对于不同的模型,我们用了不同的代理策略。OpenAI 的模型使用的代理策略是 **GPT function call。**其他模型使用是 ReACT
。目前测试的体验是
GPT function call 的效果更好。想了解更多,可以阅读下面的链接:
目前我们支持如下插件:
谷歌搜索。该插件会搜索谷歌找答案。
解析链接。该插件会读取链接的网页内容。
维基百科。该插件会搜索维基百科找答案。
我们可以在对话开始前选择本次对话需要的插件。
如果使用谷歌搜索插件,需要配置 SerpAPI key。
配置的入口:
使用数据集
智聊支持数据集。选择了数据集后,用户问的问题和数据集内容有关,模型会从数据集中找答案。
我们可以在对话开始前选择本次对话需要的数据集。
思考的过程
思考的过程指模型使用插件和数据集的过程。我们可以在每个回答中看到思考的过程。
最后更新于