Spaces:
Sleeping
Sleeping
Update app.py
Browse files
app.py
CHANGED
@@ -43,7 +43,9 @@ def respond(prompt, system_message, max_tokens, temperature, top_p, selected_mod
|
|
43 |
if stop_event.is_set():
|
44 |
break
|
45 |
if chunk:
|
46 |
-
|
|
|
|
|
47 |
yield [(prompt, response.strip())] # 실시간으로 부분적인 응답 반환
|
48 |
|
49 |
except Exception as e:
|
@@ -69,11 +71,11 @@ with gr.Blocks() as demo:
|
|
69 |
with gr.Accordion("모델 설정", open=True):
|
70 |
model = gr.Radio(list(models.keys()), value=list(models.keys())[0], label="언어 모델 선택", info="사용할 언어 모델을 선택하세요")
|
71 |
max_tokens = gr.Slider(minimum=1, maximum=2000, value=500, step=100, label="최대 새 토큰 수")
|
72 |
-
temperature = gr.Slider(minimum=0.1,
|
73 |
-
top_p = gr.Slider(minimum=0.1,
|
74 |
|
75 |
system_message = gr.Textbox(
|
76 |
-
value="너는 나의 최고의
|
77 |
label="시스템 메시지",
|
78 |
lines=5
|
79 |
)
|
|
|
43 |
if stop_event.is_set():
|
44 |
break
|
45 |
if chunk:
|
46 |
+
# 모델이 스스로 질문을 하지 않도록 특정 패턴을 체크
|
47 |
+
if not chunk.strip().endswith("?"):
|
48 |
+
response += chunk
|
49 |
yield [(prompt, response.strip())] # 실시간으로 부분적인 응답 반환
|
50 |
|
51 |
except Exception as e:
|
|
|
71 |
with gr.Accordion("모델 설정", open=True):
|
72 |
model = gr.Radio(list(models.keys()), value=list(models.keys())[0], label="언어 모델 선택", info="사용할 언어 모델을 선택하세요")
|
73 |
max_tokens = gr.Slider(minimum=1, maximum=2000, value=500, step=100, label="최대 새 토큰 수")
|
74 |
+
temperature = gr.Slider(minimum=0.1, 최대=2.0, value=0.7, step=0.05, label="온도")
|
75 |
+
top_p = gr.Slider(minimum=0.1, 최대=1.0, value=0.90, step=0.05, label="Top-p (핵 샘플링)")
|
76 |
|
77 |
system_message = gr.Textbox(
|
78 |
+
value="너는 나의 최고의 비서이다. 정확하게 답변하라. 추가 질문이나 입력 확장은 하지 않는다.",
|
79 |
label="시스템 메시지",
|
80 |
lines=5
|
81 |
)
|