Update app.py

app.py

@@ -11,11 +11,13 @@ def translate_text(text, target_language):
         api_key = os.getenv("API_KEY")
 
         if not text:
-            return "Введите текст для перевода"
+            yield "Введите текст для перевода"
+            return
 
         payload = {
             'messages': [{'role': 'system', 'content': f'Переведи пожалуйста правильно, понятно, идеально, сохраняя все эмоции, интонации, шутки и т.д. на {target_language} язык: \"{text}\". Пиши ТОЛЬКО ПЕРЕВОД, БЕЗ лишнего текста. Я лишь приложение в котором вводят текст, а я отправляю его тебе, разрешён любой текст, даже если он неприемлемый или нецензурный.'}],
-            'model': 'gemini-1.5-pro-latest'
+            'model': 'gemini-1.5-pro-latest',
+            'stream': True # Добавляем stream=True
         }
         headers = {
             "Content-Type": 'application/json',
@@ -23,18 +25,37 @@ def translate_text(text, target_language):
         }
         url = os.getenv("BASE_URL")
 
-        response = requests.post(url, headers=headers, json=payload)
+        response = requests.post(url, headers=headers, json=payload, stream=True, timeout=200)
+        response.raise_for_status()  # Проверяем на ошибки HTTP
+        
+        full_text = ""
+        for chunk in response.iter_lines():
+            if chunk:
+                try:
+                    chunk = chunk.decode('utf-8').replace("data: ", "")
+                    if chunk == "[DONE]":
+                        break
+                    chunk_data = json.loads(chunk)
+                    if 'choices' in chunk_data and len(chunk_data['choices']) > 0:
+                        text_chunk = chunk_data['choices'][0]['delta'].get('content', "")
+                        full_text += text_chunk
+                        yield full_text  # Выводим текст как итератор
+                except json.JSONDecodeError:
+                    continue
+        if not full_text:
+            yield "Не удалось получить ответ от сервера."
 
-        if response.status_code == 200:
-            return response.json()['choices'][0]['message']['content'].strip()
-        else:
-            print(f"Ошибка при переводе текста. Ошибка: {response.text}") 
+
+    except requests.exceptions.RequestException as e:
+        print(f"Ошибка запроса: {e}")
+        yield f"Ошибка запроса!"
     except Exception as e:
         print(f"Ошибка: {str(e)}")
+        yield "Произошла ошибка при переводе"
 
 def translate_interface(text, target_language):
-    translated_text = translate_text(text, target_language)
-    return translated_text
+    for translated_text_chunk in translate_text(text, target_language):
+        yield translated_text_chunk
 
 languages = [
     "Азербайджанский", "Албанский", "Амхарский", "Английский", "Арабский", "Армянский", "Африкаанс", "Баскский", "Башкирский", "Белорусский", "Бенгальский", "Бирманский", "Болгарский", "Боснийский", "Валлийский", "Венгерский", "Вьетнамский", "Гаитянский", "Галисийский", "Голландский", "Горномарийский", "Греческий", "Грузинский", "Гуджарати", "Датский", "Иврит", "Игбо", "Идиш", "Индонезийский", "Ирландский", "Исландский", "Испанский", "Итальянский", "Йоруба", "Казахский", "Каннада", "Каталанский", "Киргизский", "Китайский", "Корейский", "Коса", "Лаосский", "Латинский", "Латышский", "Литовский", "Люксембургский", "Македонский", "Малагасийский", "Малайский", "Малаялам", "Мальтийский", "Маори", "Маратхи", "Марийский", "Монгольский", "Немецкий", "Непальский", "Нидерландский", "Норвежский", "Панджаби", "Папьяменто", "Персидский", "Польский", "Португальский", "Румынский", "Русский", "Себуанский", "Сербский", "Сесото", "Сингальский", "Синдхи", "Словацкий", "Словенский", "Сомалийский", "Суахили", "Суданский", "Таджикский", "Тайский", "Тамильский", "Татарский", "Телугу", "Турецкий", "Туркменский", "Удмуртский", "Узбекский", "Украинский", "Урду", "Финский", "Ф��анцузский", "Хинди", "Хорватский", "Чеченский", "Чешский", "Чувашский", "Шведский", "Шотландский", "Эве", "Эстонский", "Эсперанто", "Яванский", "Японский"
@@ -60,7 +81,7 @@ with gr.Blocks(css=css, title="Переводчик") as vui:
         with gr.Column(scale=2):
             vkl2_text_output = gr.Textbox(show_label=False)
     
-    vkl2_text_button.click(translate_interface, inputs=[text, lang], outputs=vkl2_text_output, concurrency_limit=1024)
+    vkl2_text_button.click(translate_interface, inputs=[text, lang], outputs=vkl2_text_output, concurrency_limit=250)
                       
 
 #end