v0.2.0

- откат 2

app.py

@@ -6,7 +6,7 @@ from llama_cpp import Llama
 app = FastAPI()
 
 CHAT_TEMPLATE = '<|system|> {system_prompt}<|end|><|user|> {prompt}<|end|><|assistant|>'.strip()
-SYSTEM_PROMPT = ''
+SYSTEM_PROMPT = '{prompt}'
 
 logging.basicConfig(
     format='%(asctime)s - %(name)s - %(levelname)s - %(message)s',
@@ -63,7 +63,7 @@ def create_prompt(text: str) -> Union[str, None]:
 
         # Генерация шаблона
         return CHAT_TEMPLATE.format(
-            system_prompt=SYSTEM_PROMPT or 'Ответ должен быть точным, кратким и с юмором.',
+            system_prompt=SYSTEM_PROMPT.format(promt='Ответ должен быть точным, кратким и с юмором.'),
             prompt=user_input,
         )
     except Exception as e:
@@ -103,8 +103,8 @@ async def set_system_prompt(text: str):
     # Генерация ответа с помощью модели
     logger.info('post/system-prompt')
     global SYSTEM_PROMPT
-    SYSTEM_PROMPT = text
-
+    SYSTEM_PROMPT = SYSTEM_PROMPT.format(promt=text)
+    return {"set": 'ok'}
 
 @app.post("/predict")
 async def predict(text: str):