AIRider commited on
Commit
90f6ea5
·
verified ·
1 Parent(s): 5fd690f

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +4 -5
app.py CHANGED
@@ -25,7 +25,7 @@ def respond(prompt, system_message, max_tokens, temperature, top_p, selected_mod
25
 
26
  # 프롬프트 설정
27
  messages = [
28
- {"role": "system", "content": system_message},
29
  {"role": "user", "content": prompt}
30
  ]
31
 
@@ -43,9 +43,8 @@ def respond(prompt, system_message, max_tokens, temperature, top_p, selected_mod
43
  if stop_event.is_set():
44
  break
45
  if chunk:
46
- # 모델이 스스로 질문을 하지 않도록 특정 패턴을 체크
47
- if not chunk.strip().endswith("?"):
48
- response += chunk
49
  yield [(prompt, response.strip())] # 실시간으로 부분적인 응답 반환
50
 
51
  except Exception as e:
@@ -75,7 +74,7 @@ with gr.Blocks() as demo:
75
  top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.90, step=0.05, label="Top-p (핵 샘플링)")
76
 
77
  system_message = gr.Textbox(
78
- value="너는 나의 최고의 비서이다. 정확하게 답변하라. 추가 질문이나 입력 확장은 하지 않는다.",
79
  label="시스템 메시지",
80
  lines=5
81
  )
 
25
 
26
  # 프롬프트 설정
27
  messages = [
28
+ {"role": "system", "content": system_message + "\n입력에 대해서만 답변하세요. 추가 질문을 하지 마세요. 입력 내용만 반영하세요."},
29
  {"role": "user", "content": prompt}
30
  ]
31
 
 
43
  if stop_event.is_set():
44
  break
45
  if chunk:
46
+ # 모델이 스스로 질문을 하지 않도록 패턴을 체크
47
+ response += chunk
 
48
  yield [(prompt, response.strip())] # 실시간으로 부분적인 응답 반환
49
 
50
  except Exception as e:
 
74
  top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.90, step=0.05, label="Top-p (핵 샘플링)")
75
 
76
  system_message = gr.Textbox(
77
+ value="너는 나의 최고의 비서이다. 정확하게 답변하라. 추가 질문을 하지 말고, 사용자의 입력 내용에 대해서만 답변하라.",
78
  label="시스템 메시지",
79
  lines=5
80
  )