Update app.py

app.py

@@ -24,7 +24,7 @@ from chromadb.config import Settings
 from llama_cpp import Llama
 
 
-SYSTEM_PROMPT = "Ты — ассистент по работе с документами. Ты разговариваешь с людьми и помогаешь им. Если запрашиваемая информация отсутвует в документах, ответь что ты не знаешь ответа на вопрос"
+SYSTEM_PROMPT = "Ты — Сайга, русскоязычный автоматический ассистент. Ты разговариваешь с людьми и помогаешь им. Если ты не уверен в своем ответе или запрашиваемая информация отсутвует в документах, ответь что ты не знаешь ответа на вопрос"
 SYSTEM_TOKEN = 1788
 USER_TOKEN = 1404
 BOT_TOKEN = 9225
@@ -58,8 +58,11 @@ model_name = "ggml-model-q4_1.bin"
 embedder_name = "sentence-transformers/paraphrase-multilingual-mpnet-base-v2"
 """
 
-repo_name = "IlyaGusev/saiga_13b_lora_llamacpp"
-model_name = "ggml-model-q4_1.bin"
+repo_name = "IlyaGusev/saiga2_13b_gguf"
+model_name = "ggml-model-q4_K.gguf"
+
+#repo_name = "IlyaGusev/saiga_13b_lora_llamacpp"
+#model_name = "ggml-model-q4_1.bin"
 embedder_name = "sentence-transformers/paraphrase-multilingual-mpnet-base-v2"
 #embedder_name = "ai-forever/sbert_large_mt_nlu_ru"