Update app.py

app.py

@@ -25,7 +25,7 @@ def respond(prompt, system_message, max_tokens, temperature, top_p, selected_mod
     
     # 프롬프트 설정
     messages = [
-        {"role": "system", "content": system_message + "\n입력에 대해서만 답변하세요. 추가 질문을 하지 마세요. 입력 내용만 반영하세요."},
+        {"role": "system", "content": system_message + "\n주어진 입력에 대해서만 정확히 답변하세요. 추가 질문을 생성하거나 입력 내용을 확장하지 마세요."},
         {"role": "user", "content": prompt}
     ]
     
@@ -38,13 +38,15 @@ def respond(prompt, system_message, max_tokens, temperature, top_p, selected_mod
             max_new_tokens=max_tokens,
             temperature=temperature,
             top_p=top_p,
-            stream=True
+            stream=True,
+            stop_sequences=["Human:", "User:"]  # 자문자답 방지를 위한 정지 시퀀스 추가
         ):
             if stop_event.is_set():
                 break
             if chunk:
-                # 모델이 스스로 질문을 하지 않도록 패턴을 체크
                 response += chunk
+                if "?" in chunk:  # 질문 마크가 포함된 경우 생성 중단
+                    break
                 yield [(prompt, response.strip())]  # 실시간으로 부분적인 응답 반환
     
     except Exception as e:
@@ -74,7 +76,7 @@ with gr.Blocks() as demo:
                 top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.90, step=0.05, label="Top-p (핵 샘플링)")
             
             system_message = gr.Textbox(
-                value="너는 나의 최고의 비서이다. 정확하게 답변하라. 추가 질문을 하지 말고, 사용자의 입력 내용에 대해서만 답변하라.",
+                value="당신은 정확하고 간결한 응답을 제공하는 AI 어시스턴트입니다. 사용자의 입력에 대해서만 답변하고, 추가 질문이나 확장된 대화를 생성하지 마세요.",
                 label="시스템 메시지",
                 lines=5
             )