← 全部文章

把本机模型路由拆成服务

Switchboard 提供兼容 OpenAI 的请求入口,把模型别名和 key 允许列表从安装脚本中拆出来。

四月三号,我把本机的模型路由配置拆成了一个小服务,叫 Switchboard。它提供兼容 OpenAI 的 /v1/chat/completions,把别名映射到具体模型,再按 key 设置允许列表。

第一家接入的是智谱 Coding Plan。glm-5.1、glm-5、glm-5-turbo 走同一条 coding 通道。本机服务监听 8080,客户端有了统一的请求入口。

此前这些配置放在安装脚本里,换供应商还要改脚本。拆开后,路由配置可以单独维护。仓库是私有的,后来归入个人工具仓,没有对外提供安装入口。