支持通过环境变量禁用本地模型，支持在config中设置默认model

config_example.json

@@ -1,12 +1,13 @@
 {
     // 你的OpenAI API Key，一般必填，
     // 若缺省填为 "openai_api_key": "" 则必须再在图形界面中填入API Key
-    "openai_api_key": "sk-xxxxxxxxxxxxxxxxxxxxxxxxx",
+    "openai_api_key": "",
     // 如果使用代理，请取消注释下面的两行，并替换代理URL
     // "https_proxy": "http://127.0.0.1:1079",
     // "http_proxy": "http://127.0.0.1:1079",
     "users": [], // 用户列表，[[用户名1, 密码1], [用户名2, 密码2], ...]
     "local_embedding": false, //是否在本地编制索引
+    "default_model": "gpt-3.5-turbo", // 默认模型
     "advance_docs": {
         "pdf": {
             // 是否认为PDF是双栏的

modules/config.py

@@ -6,6 +6,7 @@ import sys
 import commentjson as json
 
 from . import shared
+from . import presets
 
 
 __all__ = [
@@ -155,4 +156,11 @@ if server_port is None:
 
 assert server_port is None or type(server_port) == int, "要求port设置为int类型"
 
+# 设置默认model
+default_model = config.get("default_model", "")
+try:
+    presets.DEFAULT_MODEL = presets.MODELS.index(default_model)
+except ValueError:
+    pass
+
 share = config.get("share", False)

modules/presets.py

@@ -65,7 +65,7 @@ APPEARANCE_SWITCHER = """
 
 SUMMARIZE_PROMPT = "你是谁？我们刚才聊了什么？"  # 总结对话时的 prompt
 
-MODELS = [
+ONLINE_MODELS = [
     "gpt-3.5-turbo",
     "gpt-3.5-turbo-0301",
     "gpt-4",
@@ -73,6 +73,9 @@ MODELS = [
     "gpt-4-32k",
     "gpt-4-32k-0314",
     "xmbot",
+]
+
+LOCAL_MODELS = [
     "chatglm-6b",
     "chatglm-6b-int4",
     "chatglm-6b-int4-qe",
@@ -83,10 +86,15 @@ MODELS = [
     "llama-13b-hf-int4",
     "llama-30b-hf",
     "llama-30b-hf-int4",
-    "llama-65b-hf",
-]  # 可选的模型
+    "llama-65b-hf"
+]
+
+if os.environ.get('HIDE_LOCAL_MODELS', 'false') == 'true':
+    MODELS = ONLINE_MODELS
+else:
+    MODELS = ONLINE_MODELS + LOCAL_MODELS
 
-DEFAULT_MODEL = 0  # 默认的模型在MODELS中的序号，从0开始数
+DEFAULT_MODEL = 0
 
 os.makedirs("models", exist_ok=True)
 os.makedirs("lora", exist_ok=True)