Update app.py

app.py

@@ -1,7 +1,9 @@
 import gradio as gr
 from huggingface_hub import InferenceClient
 
-# Инициализация клиента с моделью от Hugging Face
+"""
+For more information on `huggingface_hub` Inference API support, please check the docs: https://huggingface.co/docs/huggingface_hub/v0.22.2/en/guides/inference
+"""
 client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
 
 def respond(
@@ -12,79 +14,54 @@ def respond(
     temperature,
     top_p,
 ):
-    # Формирование списка сообщений для отправки модели
     messages = [{"role": "system", "content": system_message}]
 
-    # Добавление истории разговора в список сообщений
     for val in history:
         if val[0]:
             messages.append({"role": "user", "content": val[0]})
         if val[1]:
             messages.append({"role": "assistant", "content": val[1]})
 
-    # Добавление текущего сообщения пользователя
     messages.append({"role": "user", "content": message})
 
-    # Получение ответа от модели
     response = ""
-    try:
-        for message in client.chat_completion(
-            messages,
-            max_tokens=max_tokens,
-            stream=True,
-            temperature=temperature,
-            top_p=top_p,
-        ):
-            token = message.choices[0].delta.content
-            response += token
-            yield response
-    except Exception as e:
-        print(f"Error occurred during message generation: {e}")
-        yield "Произошла ошибка при обработке запроса."
 
-    # Формирование ответа в нужном формате на русском языке
-    response = response.strip()
+    for message in client.chat_completion(
+        messages,
+        max_tokens=max_tokens,
+        stream=True,
+        temperature=temperature,
+        top_p=top_p,
+    ):
+        token = message.choices[0].delta.content
+        response += token
 
-    # Определение необходимости операции (например, при аппендиците операция нужна)
-    operation = "Не требуется"
-    if "аппендицит" in response.lower():
-        operation = "Требуется операция: аппендэктомия (экстренная)"
-    elif "перелом" in response.lower():
-        operation = "Требуется операция: остеосинтез (плановая)"
-    elif "инсульт" in response.lower():
-        operation = "Не требуется операция, но требуется срочная медицинская помощь"
+        # Добавьте логику для обработки медицинских запросов
+        if "диагноз" in message.lower() or "операция" in message.lower():
+            response += "\n\nПредварительный диагноз: [Ваш диагноз]\n"
+            response += "Операция: [Требуется ли операция и какая]\n"
+            response += "Уточняющие вопросы для постановки диагноза:\n"
+            response += "- Вопрос 1\n"
+            response += "- Вопрос 2\n"
+            response += "- Вопрос 3\n"
 
-    # Сборка формата ответа
-    diagnosis = response.split("\n")[0]  # Первый ответ — диагноз
-    response = f"Предварительный диагноз: {diagnosis}\n"
+        yield response
 
-    # Операция
-    response += f"Операция: {operation}\n"
-
-    # Уточняющие вопросы: задаем несколько вопросов, чтобы уточнить диагноз
-    questions = "Какие симптомы усилились за последние 24 часа? Есть ли у вас температура?"
-    response += f"Уточняющие вопросы для постановки диагноза: {questions}\n"
-
-    # Добавление финального сообщения
-    final_response = f"{response}\nСоздано больницей EMS штата Alta"
-    yield final_response
-
-# Создание интерфейса Gradio
+"""
+For information on how to customize the ChatInterface, peruse the gradio docs: https://www.gradio.app/docs/chatinterface
+"""
 demo = gr.ChatInterface(
     respond,
     additional_inputs=[
-        gr.Textbox(
-            value="Привет! Я помощник врача в больнице EMS штата Alta! Опиши свои симптомы кратко, и я поставлю предварительный диагноз. Пожалуйста, будьте кратки.",
-            label="Системное сообщение"
-        ),
-        gr.Slider(minimum=1, maximum=2048, value=200, step=1, label="Максимальное количество новых токенов"),
-        gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Температура"),
+        gr.Textbox(value="You are a friendly Chatbot.", label="System message"),
+        gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Max new tokens"),
+        gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"),
         gr.Slider(
             minimum=0.1,
             maximum=1.0,
             value=0.95,
             step=0.05,
-            label="Top-p (ядерное семплирование)",
+            label="Top-p (nucleus sampling)",
         ),
     ],
 )