Update app.py

app.py

@@ -3,20 +3,18 @@ from transformers import pipeline
 import torch
 import logging
 
-# Настройка логирования
 logging.basicConfig(level=logging.INFO)
 logger = logging.getLogger(__name__)
 
-# Загружаем модель
-model_name = "ai-forever/ruGPT-3.5-13B"
+model_name = "microsoft/Phi-3-mini-4k-instruct"
 try:
     logger.info(f"Попытка загрузки модели {model_name}...")
     generator = pipeline(
         "text-generation",
         model=model_name,
-        device=-1,  # CPU
+        device=-1,
         framework="pt",
-        max_length=150,  # Уменьшаем для оптимизации
+        max_length=150,
         truncation=True,
         model_kwargs={"torch_dtype": torch.float32}
     )
@@ -26,7 +24,7 @@ except Exception as e:
     exit(1)
 
 def respond(message, max_tokens=150, temperature=0.5, top_p=0.8):
-    prompt = f"Вы медицинский чат-бот. Пользователь говорит: '{message}'. Дайте краткий ответ с диагнозом и лечением на русском языке."
+    prompt = f"You are a medical chatbot. User says: '{message}'. Provide diagnosis and treatment in English."
     try:
         logger.info(f"Генерация ответа для: {message}")
         outputs = generator(
@@ -38,7 +36,11 @@ def respond(message, max_tokens=150, temperature=0.5, top_p=0.8):
             num_return_sequences=1
         )
         response = outputs[0]["generated_text"].replace(prompt, "").strip()
-        logger.info(f"Ответ сгенерирован: {response}")
+        # Простой перевод (для примера)
+        if "Diagnosis" in response:
+            diagnosis = response.split("Diagnosis:")[1].split("Treatment:")[0].strip()
+            treatment = response.split("Treatment:")[1].strip()
+            response = f"Диагноз: {diagnosis}\nЛечение: {treatment}"
     except Exception as e:
         logger.error(f"Ошибка генерации ответа: {e}")
         return f"Ошибка генерации: {e}"
@@ -53,7 +55,7 @@ demo = gr.Interface(
         gr.Slider(minimum=0.1, maximum=1.0, value=0.8, label="Top-p")
     ],
     outputs="text",
-    title="Медицинский чат-бот на базе RuGPT-3.5-13B",
+    title="Медицинский чат-бот на базе Phi-3-mini-4k-instruct",
     theme=gr.themes.Soft()
 )