mohammadshahabiy commited on
Commit
46cf2c0
·
verified ·
1 Parent(s): 62185bb

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +7 -7
app.py CHANGED
@@ -1,8 +1,8 @@
1
  import gradio as gr
2
  from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
3
 
4
- # بارگذاری مدل GPT-J-6B
5
- model_name = "EleutherAI/gpt-j-6b"
6
 
7
  # بارگذاری توکن‌ایزر و مدل
8
  tokenizer = AutoTokenizer.from_pretrained(model_name)
@@ -46,15 +46,15 @@ def respond(
46
  demo = gr.ChatInterface(
47
  respond,
48
  additional_inputs=[
49
- gr.Textbox(value="You are a friendly Chatbot.", label="System message"),
50
- gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Max new tokens"),
51
- gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"),
52
  gr.Slider(
53
  minimum=0.1,
54
  maximum=1.0,
55
- value=0.95,
56
  step=0.05,
57
- label="Top-p (nucleus sampling)",
58
  ),
59
  ],
60
  )
 
1
  import gradio as gr
2
  from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
3
 
4
+ # بارگذاری مدل ParsGPT
5
+ model_name = "path/to/parsgpt" # آدرس مدل ParsGPT در Hugging Face یا محلی
6
 
7
  # بارگذاری توکن‌ایزر و مدل
8
  tokenizer = AutoTokenizer.from_pretrained(model_name)
 
46
  demo = gr.ChatInterface(
47
  respond,
48
  additional_inputs=[
49
+ gr.Textbox(value="شما یک ربات دوست‌داشتنی هستید.", label="پیام سیستم"),
50
+ gr.Slider(minimum=1, maximum=1024, value=256, step=1, label="حداکثر توکن‌های جدید"),
51
+ gr.Slider(minimum=0.1, maximum=2.0, value=0.7, step=0.1, label="دما (Temperature)"),
52
  gr.Slider(
53
  minimum=0.1,
54
  maximum=1.0,
55
+ value=0.9,
56
  step=0.05,
57
+ label="Top-p (نمونه‌گیری هسته‌ای)",
58
  ),
59
  ],
60
  )