Update app.py

app.py

@@ -6,8 +6,18 @@ import cv2
 import numpy as np
 from pydub import AudioSegment
 
-# Инициализация клиента для модели Hugging Face
-client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
+# Инициализация клиента для модели Felguk/Felguk-v0
+client = InferenceClient("Felguk/Felguk-v0")
+
+# Список доступных моделей
+MODELS = {
+    "felguk v0": "Felguk/Felguk-v0",
+    "chatgpt 4.0": "gpt-4",  # Пример, замените на реальный API
+    "claude 3.5": "claude-3.5",  # Пример, замените на реальный API
+    "qwen 2.5": "qwen-2.5",  # Пример, замените на реальный API
+    "deepseek": "deepseek",  # Пример, замените на реальный API
+    "le chat": "le-chat",  # Пример, замените на реальный API
+}
 
 # Функция для обработки PDF
 def process_pdf(file):
@@ -44,7 +54,13 @@ def respond(
     temperature,
     top_p,
     file=None,
+    model_name="felguk v0",
 ):
+    # Выбор модели
+    if model_name not in MODELS:
+        yield "Ошибка: модель не найдена."
+        return
+
     # Добавляем системное сообщение
     messages = [{"role": "system", "content": system_message}]
 
@@ -73,18 +89,22 @@ def respond(
     # Добавляем текущее сообщение пользователя
     messages.append({"role": "user", "content": message})
 
-    # Генерация ответа с использованием модели
-    response = ""
-    for message in client.chat_completion(
-        messages,
-        max_tokens=max_tokens,
-        stream=True,
-        temperature=temperature,
-        top_p=top_p,
-    ):
-        token = message.choices[0].delta.content
-        response += token
-        yield response
+    # Генерация ответа в зависимости от модели
+    if model_name == "felguk v0":
+        response = ""
+        for message in client.chat_completion(
+            messages,
+            max_tokens=max_tokens,
+            stream=True,
+            temperature=temperature,
+            top_p=top_p,
+        ):
+            token = message.choices[0].delta.content
+            response += token
+            yield response
+    else:
+        # Здесь можно добавить логику для других моделей
+        yield f"Модель {model_name} пока не поддерживается."
 
 # Функция для сброса истории чата
 def reset_chat():
@@ -99,6 +119,14 @@ with gr.Blocks() as demo:
     with gr.Row():
         new_chat_button = gr.Button("Новый чат", variant="secondary")
 
+    # Выбор модели
+    with gr.Row():
+        model_dropdown = gr.Dropdown(
+            choices=list(MODELS.keys()),
+            value="felguk v0",
+            label="Выберите модель",
+        )
+
     # Интерфейс чата
     chat_interface = gr.ChatInterface(
         respond,
@@ -114,6 +142,7 @@ with gr.Blocks() as demo:
                 label="Top-p (nucleus sampling)",
             ),
             gr.File(label="Загрузите файл (опционально)"),  # Поле для загрузки файлов
+            model_dropdown,  # Выбор модели
         ],
     )