Problem
Quest模式目前的"自定义模型接入"功能支持的渠道非常有限,几乎形同虚设。用户无法接入自己常用的模型服务商,导致该功能在实际开发中难以发挥作用。
目前缺失的主流渠道包括但不限于:
- OpenAI 兼容接口(如 vLLM、TGI、LiteLLM 等)
- Anthropic Claude
- Google Gemini
- 本地模型(Ollama、vLLM、LocalAI 等)
- Azure OpenAI
- 阿里云通义千问、百度文心、腾讯混元等国内模型
Solution
扩展自定义模型的接入渠道,建议:
- 支持 OpenAI 兼容协议接口,这样所有兼容 OpenAI API 的模型都可以一键接入
- 增加主流的独立模型提供商选项(Anthropic、Google、Azure 等)
- 支持本地部署模型(Ollama、vLLM)的接入
- 增加对国内主流大模型平台的支持
这样 Quest 模式才能真正成为开发者灵活使用的工具。