Update app.py

app.py

@@ -10,16 +10,14 @@ API_KEY = os.getenv("TOGETHER_API_KEY")
 if not API_KEY:
     raise ValueError("API key is missing! Make sure TOGETHER_API_KEY is set in the Secrets.")
 
-# Initialize the Together client
 @st.cache_resource
 def get_client():
     return Together(api_key=API_KEY)
 
 def process_file(file) -> str:
-    """Process uploaded file and return its content"""
     if file is None:
         return ""
-
+    
     try:
         if file.type == "application/pdf":
             text = ""
@@ -47,15 +45,28 @@ def generate_response(
     client = get_client()
     
     try:
-        # 메시지 형식 수정
-        messages = [{"role": "system", "content": system_message}]
+        # 메시지 배열 초기화
+        messages = []
         
-        # 히스토리 추가
+        # 시스템 메시지가 있는 경우에만 추가
+        if system_message.strip():
+            messages.append({
+                "role": "system",
+                "content": system_message
+            })
+        
+        # 대화 히스토리 추가
         for user_msg, assistant_msg in history:
-            messages.append({"role": "user", "content": user_msg})
-            messages.append({"role": "assistant", "content": assistant_msg})
+            messages.append({
+                "role": "user",
+                "content": user_msg
+            })
+            messages.append({
+                "role": "assistant",
+                "content": assistant_msg
+            })
         
-        # 현재 메시지와 파일 내용 추가
+        # 현재 메시지와 파일 내용 준비
         current_content = message
         if files:
             file_contents = []
@@ -66,28 +77,40 @@ def generate_response(
             if file_contents:
                 current_content = current_content + "\n\n" + "\n\n".join(file_contents)
         
-        messages.append({"role": "user", "content": current_content})
+        # 현재 메시지 추가
+        messages.append({
+            "role": "user",
+            "content": current_content
+        })
+        
+        # API 요청 설정
+        request_params = {
+            "model": "deepseek-ai/DeepSeek-R1",
+            "messages": messages,
+            "max_tokens": max_tokens,
+            "temperature": temperature,
+            "top_p": top_p,
+            "stream": True
+        }
         
-        # API 호출 시도
+        # API 호출
         try:
-            stream = client.chat.completions.create(
-                model="deepseek-ai/DeepSeek-R1",
-                messages=messages,
-                max_tokens=max_tokens,
-                temperature=temperature,
-                top_p=top_p,
-                stream=True
-            )
+            stream = client.chat.completions.create(**request_params)
             
             for chunk in stream:
-                if chunk.choices and chunk.choices[0].delta.content:
+                if hasattr(chunk.choices[0].delta, 'content') and chunk.choices[0].delta.content:
                     yield chunk.choices[0].delta.content
                     
         except Exception as e:
             if "rate limit" in str(e).lower():
-                yield "죄송합니다. API 호출 한도에 도달했습니다. 잠시 후 다시 시도해주세요."
+                yield "API 호출 한도에 도달했습니다. 잠시 후 다시 시도해주세요."
             else:
-                yield f"API 호출 중 오류가 발생했습니다: {str(e)}"
+                error_message = str(e)
+                # Together.ai의 오류 응답 분석
+                if "Input validation error" in error_message:
+                    yield "입력 형식이 올바르지 않습니다. 시스템 관리자에게 문의해주세요."
+                else:
+                    yield f"API 호출 중 오류가 발생했습니다: {error_message}"
                 
     except Exception as e:
         yield f"오류가 발생했습니다: {str(e)}"
@@ -105,12 +128,12 @@ def main():
         st.header("설정")
         system_message = st.text_area(
             "시스템 메시지",
-            value="당신은 깊이 있게 생각하는 AI입니다. 문제를 깊이 고려하고 체계적인 추론 과정을 통해 올바른 해결책을 도출하기 위해 매우 긴 사고 체인을 사용할 수 있습니다. 반드시 한글로 답변하세요.",
+            value="당신은 깊이 있게 생각하는 AI입니다. 문제를 깊이 고려하고 체계적인 추론 과정을 통해 올바른 해결책을 도출하세요. 반드시 한글로 답변하세요.",
             height=100
         )
-        max_tokens = st.slider("최대 토큰 수", 1, 8192, 8192)
-        temperature = st.slider("온도", 0.1, 4.0, 0.0, 0.1)
-        top_p = st.slider("Top-p", 0.1, 1.0, 0.95, 0.05)
+        max_tokens = st.slider("최대 토큰 수", 1, 4096, 2048)  # 토큰 제한 조정
+        temperature = st.slider("온도", 0.0, 2.0, 0.7, 0.1)    # 온도 범위 조정
+        top_p = st.slider("Top-p", 0.0, 1.0, 0.7, 0.1)        # top_p 범위 조정
         uploaded_file = st.file_uploader(
             "파일 업로드 (선택사항)",
             type=['txt', 'py', 'md', 'pdf', 'png', 'jpg', 'jpeg'],
@@ -119,12 +142,12 @@ def main():
 
     for message in st.session_state.messages:
         with st.chat_message(message["role"]):
-            st.write(message["content"])
+            st.markdown(message["content"])
 
     if prompt := st.chat_input("무엇을 알고 싶으신가요?"):
         st.session_state.messages.append({"role": "user", "content": prompt})
         with st.chat_message("user"):
-            st.write(prompt)
+            st.markdown(prompt)
 
         with st.chat_message("assistant"):
             response_placeholder = st.empty()