v0.1.2 правки

app.py

@@ -6,7 +6,7 @@ from llama_cpp import Llama
 app = FastAPI()
 
 CHAT_TEMPLATE = '<|system|> {system_prompt}<|end|><|user|> {prompt}<|end|><|assistant|>'.strip()
-SYSTEM_PROMPT = '{prompt}'
+SYSTEM_PROMPT = ''
 
 logging.basicConfig(
     format='%(asctime)s - %(name)s - %(levelname)s - %(message)s',
@@ -63,7 +63,7 @@ def create_prompt(text: str) -> Union[str, None]:
 
         # Генерация шаблона
         return CHAT_TEMPLATE.format(
-            system_prompt=SYSTEM_PROMPT.format(promt='Ответ должен быть точным, кратким и с юмором.'),
+            system_prompt=SYSTEM_PROMPT or 'Ответ должен быть точным, кратким и с юмором.',
             prompt=user_input,
         )
     except Exception as e:
@@ -103,8 +103,8 @@ async def set_system_prompt(text: str):
     # Генерация ответа с помощью модели
     logger.info('post/system-prompt')
     global SYSTEM_PROMPT
-    SYSTEM_PROMPT = SYSTEM_PROMPT.format(promt=text)
-    return {"set": 'ok'}
+    SYSTEM_PROMPT = text
+
 
 @app.post("/predict")
 async def predict(text: str):