v0.5

- возврат к концепции простого апи для ИИ

app.py

@@ -1,16 +1,11 @@
-import asyncio
 import logging
-import subprocess
-from typing import Union, Optional, SupportsIndex
+from typing import Union, Optional
 
-import nest_asyncio
 from fastapi import FastAPI
 from llama_cpp import Llama
 
-from bot import start_bot
 
 app = FastAPI()
-nest_asyncio.apply()
 
 CHAT_TEMPLATE = '<|system|> {system_prompt}<|end|><|user|> {prompt}<|end|><|assistant|>'.strip()
 SYSTEM_PROMPT = ''
@@ -107,21 +102,14 @@ def greet_json():
 
 @app.put("/system-prompt")
 async def set_system_prompt(text: str):
-    # Генерация ответа с помощью модели
     logger.info('post/system-prompt')
     global SYSTEM_PROMPT
     SYSTEM_PROMPT = text
 
-
 @app.post("/predict")
 async def predict(text: str):
     # Генерация ответа с помощью модели
     logger.info('post/predict')
     prompt = create_prompt(text)
     response = generate_response(prompt)
-    return {"response": response}
-
-# Запуск Telegram-бота при старте приложения
-@app.on_event("startup")
-async def startup_event():
-    subprocess.Popen(["python", "bot.py"]) # Запускаем бота в фоновом режиме
+    return {"response": response}

requirements.txt

@@ -1,6 +1,4 @@
 fastapi
-uvicorn[standard]
+uvicorn
 huggingface-hub
-python-telegram-bot
-python-dotenv
-nest-asyncio
+python-dotenv