Sakalti commited on
Commit
f6418af
·
verified ·
1 Parent(s): fa42bef

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -1,7 +1,7 @@
1
  import gradio as gr
2
  from modelscope.pipelines import pipeline
3
  from modelscope.utils.constant import Tasks
4
- import swift # swift モジュールのインポートを追加
5
 
6
  # 使用可能なモデルのリスト
7
  models = ["Qwen/Qwen2.5-7B-Instruct", "Qwen/Qwen2.5-14B-Instruct", "Qwen/Qwen2.5-32B-Instruct"]
@@ -47,7 +47,7 @@ demo = gr.ChatInterface(
47
  gr.Textbox(value="あなたはフレンドリーなチャットボットです。", label="システムメッセージ"),
48
  gr.Slider(minimum=1, maximum=2048, value=768, step=1, label="新規トークン最大"),
49
  gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="温度"),
50
- gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (核 sampling)"),
51
  gr.Dropdown(choices=models, value=models[0], label="モデル"),
52
  ],
53
  concurrency_limit=30 # 例: 同時に30つのリクエストを処理
 
1
  import gradio as gr
2
  from modelscope.pipelines import pipeline
3
  from modelscope.utils.constant import Tasks
4
+ import swift.llm # swift.llm パッケージを直接インポート
5
 
6
  # 使用可能なモデルのリスト
7
  models = ["Qwen/Qwen2.5-7B-Instruct", "Qwen/Qwen2.5-14B-Instruct", "Qwen/Qwen2.5-32B-Instruct"]
 
47
  gr.Textbox(value="あなたはフレンドリーなチャットボットです。", label="システムメッセージ"),
48
  gr.Slider(minimum=1, maximum=2048, value=768, step=1, label="新規トークン最大"),
49
  gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="温度"),
50
+ gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05,Label="Top-p (核 sampling)"),
51
  gr.Dropdown(choices=models, value=models[0], label="モデル"),
52
  ],
53
  concurrency_limit=30 # 例: 同時に30つのリクエストを処理