Spaces:
Sleeping
Sleeping
Update app.py
Browse files
app.py
CHANGED
@@ -25,7 +25,7 @@ def respond(prompt, system_message, max_tokens, temperature, top_p, selected_mod
|
|
25 |
|
26 |
# 프롬프트 설정
|
27 |
messages = [
|
28 |
-
{"role": "system", "content": system_message},
|
29 |
{"role": "user", "content": prompt}
|
30 |
]
|
31 |
|
@@ -43,9 +43,8 @@ def respond(prompt, system_message, max_tokens, temperature, top_p, selected_mod
|
|
43 |
if stop_event.is_set():
|
44 |
break
|
45 |
if chunk:
|
46 |
-
# 모델이 스스로 질문을 하지 않도록
|
47 |
-
|
48 |
-
response += chunk
|
49 |
yield [(prompt, response.strip())] # 실시간으로 부분적인 응답 반환
|
50 |
|
51 |
except Exception as e:
|
@@ -75,7 +74,7 @@ with gr.Blocks() as demo:
|
|
75 |
top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.90, step=0.05, label="Top-p (핵 샘플링)")
|
76 |
|
77 |
system_message = gr.Textbox(
|
78 |
-
value="너는 나의 최고의 비서이다. 정확하게 답변하라. 추가
|
79 |
label="시스템 메시지",
|
80 |
lines=5
|
81 |
)
|
|
|
25 |
|
26 |
# 프롬프트 설정
|
27 |
messages = [
|
28 |
+
{"role": "system", "content": system_message + "\n입력에 대해서만 답변하세요. 추가 질문을 하지 마세요. 입력 내용만 반영하세요."},
|
29 |
{"role": "user", "content": prompt}
|
30 |
]
|
31 |
|
|
|
43 |
if stop_event.is_set():
|
44 |
break
|
45 |
if chunk:
|
46 |
+
# 모델이 스스로 질문을 하지 않도록 패턴을 체크
|
47 |
+
response += chunk
|
|
|
48 |
yield [(prompt, response.strip())] # 실시간으로 부분적인 응답 반환
|
49 |
|
50 |
except Exception as e:
|
|
|
74 |
top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.90, step=0.05, label="Top-p (핵 샘플링)")
|
75 |
|
76 |
system_message = gr.Textbox(
|
77 |
+
value="너는 나의 최고의 비서이다. 정확하게 답변하라. 추가 질문을 하지 말고, 사용자의 입력 내용에 대해서만 답변하라.",
|
78 |
label="시스템 메시지",
|
79 |
lines=5
|
80 |
)
|