Spaces:
Runtime error
Runtime error
Update app.py
Browse files
app.py
CHANGED
@@ -20,31 +20,33 @@ model = AutoModelForCausalLM.from_pretrained(model_name)
|
|
20 |
chat_history = []
|
21 |
# تابع پاسخدهی
|
22 |
def student_bot(question):
|
23 |
-
|
24 |
-
|
25 |
-
prompt = """پرسش: زمان انتخاب واحد چه زمانی است؟
|
26 |
پاسخ: معمولا در پایان هر ترم تحصیلی، یعنی شهریور و بهمن انجام میشود.
|
27 |
|
28 |
پرسش: زمان حذف و اضافه کی هست؟
|
29 |
پاسخ: حدود یک هفته بعد از شروع ترم تحصیلی است.
|
30 |
-
""" + "\n".join(chat_history[-3:]) + "\nپاسخ:"
|
31 |
-
|
32 |
-
for key in faq_dict:
|
33 |
-
if key in question:
|
34 |
-
return faq_dict[key]
|
35 |
|
|
|
|
|
36 |
|
37 |
inputs = tokenizer(prompt, return_tensors="pt")
|
38 |
outputs = model.generate(
|
39 |
**inputs,
|
40 |
max_new_tokens=60,
|
41 |
-
pad_token_id=tokenizer.eos_token_id
|
|
|
|
|
|
|
|
|
|
|
|
|
42 |
)
|
43 |
answer = tokenizer.decode(outputs[0], skip_special_tokens=True)
|
44 |
return answer.split("پاسخ:")[-1].strip()
|
45 |
|
46 |
|
47 |
|
|
|
48 |
# رابط Gradio
|
49 |
gr.Interface(
|
50 |
fn=student_bot,
|
|
|
20 |
chat_history = []
|
21 |
# تابع پاسخدهی
|
22 |
def student_bot(question):
|
23 |
+
prompt = f"""پرسش: زمان انتخاب واحد چه زمانی است؟
|
|
|
|
|
24 |
پاسخ: معمولا در پایان هر ترم تحصیلی، یعنی شهریور و بهمن انجام میشود.
|
25 |
|
26 |
پرسش: زمان حذف و اضافه کی هست؟
|
27 |
پاسخ: حدود یک هفته بعد از شروع ترم تحصیلی است.
|
|
|
|
|
|
|
|
|
|
|
28 |
|
29 |
+
پرسش: {question}
|
30 |
+
پاسخ:"""
|
31 |
|
32 |
inputs = tokenizer(prompt, return_tensors="pt")
|
33 |
outputs = model.generate(
|
34 |
**inputs,
|
35 |
max_new_tokens=60,
|
36 |
+
pad_token_id=tokenizer.eos_token_id,
|
37 |
+
repetition_penalty=1.8,
|
38 |
+
no_repeat_ngram_size=3,
|
39 |
+
temperature=0.7,
|
40 |
+
top_p=0.9,
|
41 |
+
top_k=50,
|
42 |
+
do_sample=True
|
43 |
)
|
44 |
answer = tokenizer.decode(outputs[0], skip_special_tokens=True)
|
45 |
return answer.split("پاسخ:")[-1].strip()
|
46 |
|
47 |
|
48 |
|
49 |
+
|
50 |
# رابط Gradio
|
51 |
gr.Interface(
|
52 |
fn=student_bot,
|