碰到Qoder还未适配的自定义模型,但又想开启多模态、推理和更长上下文时

做了一个.bat,解决自定义模型的如下情况:

  • 自定义模型支持多模态,但Qoder无法配置
  • 自定义模型支持更长上下文,但Qoder限制到200K
  • 自定义模型支持推理,但Qoder无法配置

批处理文件需关闭Qoder后运行,相关改动重启后即可生效。

已上传到Github

实测开启多模态后,可以识别图片。

加大上下文后,Qoder的上下文窗口中增加。

脚本开源在Github

1 Like