Younes13 commited on
Commit
c9e7184
·
verified ·
1 Parent(s): 248889e

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +11 -9
app.py CHANGED
@@ -20,31 +20,33 @@ model = AutoModelForCausalLM.from_pretrained(model_name)
20
  chat_history = []
21
  # تابع پاسخ‌دهی
22
  def student_bot(question):
23
- chat_history.append(f"پرسش: {question}")
24
-
25
- prompt = """پرسش: زمان انتخاب واحد چه زمانی است؟
26
  پاسخ: معمولا در پایان هر ترم تحصیلی، یعنی شهریور و بهمن انجام می‌شود.
27
 
28
  پرسش: زمان حذف و اضافه کی هست؟
29
  پاسخ: حدود یک هفته بعد از شروع ترم تحصیلی است.
30
- """ + "\n".join(chat_history[-3:]) + "\nپاسخ:"
31
-
32
- for key in faq_dict:
33
- if key in question:
34
- return faq_dict[key]
35
 
 
 
36
 
37
  inputs = tokenizer(prompt, return_tensors="pt")
38
  outputs = model.generate(
39
  **inputs,
40
  max_new_tokens=60,
41
- pad_token_id=tokenizer.eos_token_id
 
 
 
 
 
 
42
  )
43
  answer = tokenizer.decode(outputs[0], skip_special_tokens=True)
44
  return answer.split("پاسخ:")[-1].strip()
45
 
46
 
47
 
 
48
  # رابط Gradio
49
  gr.Interface(
50
  fn=student_bot,
 
20
  chat_history = []
21
  # تابع پاسخ‌دهی
22
  def student_bot(question):
23
+ prompt = f"""پرسش: زمان انتخاب واحد چه زمانی است؟
 
 
24
  پاسخ: معمولا در پایان هر ترم تحصیلی، یعنی شهریور و بهمن انجام می‌شود.
25
 
26
  پرسش: زمان حذف و اضافه کی هست؟
27
  پاسخ: حدود یک هفته بعد از شروع ترم تحصیلی است.
 
 
 
 
 
28
 
29
+ پرسش: {question}
30
+ پاسخ:"""
31
 
32
  inputs = tokenizer(prompt, return_tensors="pt")
33
  outputs = model.generate(
34
  **inputs,
35
  max_new_tokens=60,
36
+ pad_token_id=tokenizer.eos_token_id,
37
+ repetition_penalty=1.8,
38
+ no_repeat_ngram_size=3,
39
+ temperature=0.7,
40
+ top_p=0.9,
41
+ top_k=50,
42
+ do_sample=True
43
  )
44
  answer = tokenizer.decode(outputs[0], skip_special_tokens=True)
45
  return answer.split("پاسخ:")[-1].strip()
46
 
47
 
48
 
49
+
50
  # رابط Gradio
51
  gr.Interface(
52
  fn=student_bot,