Quest模式自定义模型接入渠道太少,建议增加更多主流模型提供商支持

Problem

Quest模式目前的"自定义模型接入"功能支持的渠道非常有限,几乎形同虚设。用户无法接入自己常用的模型服务商,导致该功能在实际开发中难以发挥作用。

目前缺失的主流渠道包括但不限于:

  • OpenAI 兼容接口(如 vLLM、TGI、LiteLLM 等)
  • Anthropic Claude
  • Google Gemini
  • 本地模型(Ollama、vLLM、LocalAI 等)
  • Azure OpenAI
  • 阿里云通义千问、百度文心、腾讯混元等国内模型

Solution

扩展自定义模型的接入渠道,建议:

  1. 支持 OpenAI 兼容协议接口,这样所有兼容 OpenAI API 的模型都可以一键接入
  2. 增加主流的独立模型提供商选项(Anthropic、Google、Azure 等)
  3. 支持本地部署模型(Ollama、vLLM)的接入
  4. 增加对国内主流大模型平台的支持

这样 Quest 模式才能真正成为开发者灵活使用的工具。