hoduyquocbao commited on
Commit
1dde7aa
·
1 Parent(s): 8704c31
Files changed (1) hide show
  1. app.py +3 -3
app.py CHANGED
@@ -37,8 +37,8 @@ Demo này giới thiệu [`meta-llama/Llama-3.2-3B-Instruct`](https://huggingfac
37
  Để biết thêm chi tiết, vui lòng xem [bài viết của chúng tôi](https://huggingface.co/blog/llama32).
38
  """
39
 
40
- MAX_MAX_NEW_TOKENS: float = 8**1024**2 # Số token tối đa có thể tạo ra
41
- DEFAULT_MAX_NEW_TOKENS: float = 8**1024**2 # Số token tạo ra mặc định
42
  MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "128000")) # Độ dài token tối đa cho đầu vào
43
 
44
  print(MAX_INPUT_TOKEN_LENGTH)
@@ -369,7 +369,7 @@ chat_interface = gr.ChatInterface(
369
  minimum=1,
370
  maximum=32000,
371
  step=100,
372
- value=16000,
373
  ),
374
  gr.Slider(
375
  label="Nhiệt độ",
 
37
  Để biết thêm chi tiết, vui lòng xem [bài viết của chúng tôi](https://huggingface.co/blog/llama32).
38
  """
39
 
40
+ MAX_MAX_NEW_TOKENS = 16384 # Số token tối đa có thể tạo ra
41
+ DEFAULT_MAX_NEW_TOKENS = 16384 # Số token tạo ra mặc định
42
  MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "128000")) # Độ dài token tối đa cho đầu vào
43
 
44
  print(MAX_INPUT_TOKEN_LENGTH)
 
369
  minimum=1,
370
  maximum=32000,
371
  step=100,
372
+ value=16384,
373
  ),
374
  gr.Slider(
375
  label="Nhiệt độ",