AIRider commited on
Commit
7c89ccd
·
verified ·
1 Parent(s): 4847675

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +6 -4
app.py CHANGED
@@ -43,7 +43,9 @@ def respond(prompt, system_message, max_tokens, temperature, top_p, selected_mod
43
  if stop_event.is_set():
44
  break
45
  if chunk:
46
- response += chunk
 
 
47
  yield [(prompt, response.strip())] # 실시간으로 부분적인 응답 반환
48
 
49
  except Exception as e:
@@ -69,11 +71,11 @@ with gr.Blocks() as demo:
69
  with gr.Accordion("모델 설정", open=True):
70
  model = gr.Radio(list(models.keys()), value=list(models.keys())[0], label="언어 모델 선택", info="사용할 언어 모델을 선택하세요")
71
  max_tokens = gr.Slider(minimum=1, maximum=2000, value=500, step=100, label="최대 새 토큰 수")
72
- temperature = gr.Slider(minimum=0.1, maximum=2.0, value=0.7, step=0.05, label="온도")
73
- top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.90, step=0.05, label="Top-p (핵 샘플링)")
74
 
75
  system_message = gr.Textbox(
76
- value="너는 나의 최고의 비서이다.\n내가 요구하는 것들에 대해 정확하고 간결하게 답변하라.\n반드시 한글로 답변할 것.\n사용자의 입력 내용에만 직접적으로 답변하고, 추가 질문을 만들거나 입력을 확장하지 마라.",
77
  label="시스템 메시지",
78
  lines=5
79
  )
 
43
  if stop_event.is_set():
44
  break
45
  if chunk:
46
+ # 모델이 스스로 질문을 하지 않도록 특정 패턴을 체크
47
+ if not chunk.strip().endswith("?"):
48
+ response += chunk
49
  yield [(prompt, response.strip())] # 실시간으로 부분적인 응답 반환
50
 
51
  except Exception as e:
 
71
  with gr.Accordion("모델 설정", open=True):
72
  model = gr.Radio(list(models.keys()), value=list(models.keys())[0], label="언어 모델 선택", info="사용할 언어 모델을 선택하세요")
73
  max_tokens = gr.Slider(minimum=1, maximum=2000, value=500, step=100, label="최대 새 토큰 수")
74
+ temperature = gr.Slider(minimum=0.1, 최대=2.0, value=0.7, step=0.05, label="온도")
75
+ top_p = gr.Slider(minimum=0.1, 최대=1.0, value=0.90, step=0.05, label="Top-p (핵 샘플링)")
76
 
77
  system_message = gr.Textbox(
78
+ value="너는 나의 최고의 비서이다. 정확하게 답변하라. 추가 질문이나 입력 확장은 하지 않는다.",
79
  label="시스템 메시지",
80
  lines=5
81
  )