【WPS灵犀专业版】1分钟带你学会接入自定义智能路由模型





Lv.3 优质创作者
不知道大家有没有尝试过使用WPS灵犀专业版的自定义大模型功能,还是使用官方提供的内置大模型就足够使用?你有没有疑惑过Pro模式和Max模式的实现逻辑是什么?
模型情况
在详细展开之前,我们下面先来了解一下WPS灵犀专业版大模型的情况
内置模型
可以看出过往内置大模型分为两类,一类是官方智能路由的Pro模式和Max模式;一类是指定模型的各个厂商的大模型,例如DeepDeek、MiMo、GLM、KiMi、Qwen、Doubao和MiniMax
自定义模型
常规情况
可以看出常规在自定义大模型中,我们当前情况下只能实现内置模型中的指定模型功能,无法实现类似Pro模式和Max模式的智能路由功能
| 🔔 | 亮点:当前版本WPS灵犀专业版的自定义大模型支持chat、responses和 anthropic三大API协议,而且接口地址已经支持本地IP(例如可以接本地大模型) |
智能路由
那我们有没有办法实现智能路由的自定义大模型呢?答案是肯定的,但我们这次需要借助一下第三方的开源工具Magpie,那么我们具体如何实现呢?下文我们一起来探索!
基础概念
为了更好理解我们给出了大家都不怎么愿意看的关于智能路由的概念,如下所示
智能路由大模型(LLM Router / Model Routing)是指在大模型应用中,根据请求的特征自动选择最合适的模型来处理的调度机制。可以理解为“大模型界的智能分诊台”。
Magpie的配置
上文我们已经了解WPS灵犀专业版自定义大模型的情况,还有智能路由的概率,接着我们就进入大家最敢兴趣的实战操作环节
步骤一:模型供应商配置
我们打开Magpie后,切换到「供应商」标签,然后选择对应的供应商填写Base URL(接口地址)、API密钥和名称这些,配置完成后如下图所示
| 🔔 | 如果是接入云端模型需要到对应的大模型提供商申请API密钥,如果是本地大模型选择例如Ollama填写对应的选项即可 |
步骤二:路由组设置
当完成以上模型供应商配置后,且模型数量为多个的情况下,我们就切换到路由组界面,点击新建组,按照对应的提示填写
步骤三:细节调整与测试
上文配置完后正常就能使用,但为了更好的个性化设置,我们需要来到高级选项对其他设置进行微调,如下图所示,路由规则我们选择「智能」
| 🔔 | 由于Magpie有相当多的配置,具体其他设置可以到他们官方开源项目下查看对应文档 |
WPS灵犀专业版接入
Magpie配置完成后我们就回到我们WPS灵犀专业版这边
步骤一:添加自定义模型
我们首先新建任一新任务然后点击「添加自定义模型」进入配置界面
步骤二:参数配置
接口地址:我们通过在magpie软件的网关接口中获取
模型名称:我们按照路由组编辑时填写的名称填写即可
API Key:这里我们填写「magpie」即可
| 🔔 | 补充:接入Magpie时,没有额外设置情况下,这里面API Key部分我们能够填写任意正常值都能够正常链接 |
步骤三:效果展示
如下图所示,左侧为WPS灵犀专业版的情况,右侧为对应Magpie智能路由的情况,我们可以看出Magpie是作为一个路由的角色,对于灵犀来说只接入了一个自定义模型,实际上是接入了多个通过magpie智能路由的大模型
总结:
日常使用,使用官方的内置模型即可
接入自定义大模型的情况下,如果想达到类似Pro模式或者Max模式这种路由的功能可以通过Magpie来接入
智能路由的好处是根据你设置的规则分配最合适的模式
WPS灵犀专业版版本
WPS灵犀专业版1.3.36
Lv.2潜力创作者
Lv.3 优质创作者
Lv.1 新人创作者
Lv.3 优质创作者
Lv.3 优质创作者
Lv.3 优质创作者
Lv.3 优质创作者
Lv.3 优质创作者