Spaces:
Sleeping
Sleeping
Commit
·
496ea04
1
Parent(s):
d19884b
update
Browse files
app.py
CHANGED
|
@@ -34,8 +34,8 @@ Demo này giới thiệu [`meta-llama/Llama-3.2-3B-Instruct`](https://huggingfac
|
|
| 34 |
Để biết thêm chi tiết, vui lòng xem [bài viết của chúng tôi](https://huggingface.co/blog/llama32).
|
| 35 |
"""
|
| 36 |
|
| 37 |
-
MAX_MAX_NEW_TOKENS = 8**1024**4 # Số token tối đa có thể tạo ra
|
| 38 |
-
DEFAULT_MAX_NEW_TOKENS = 8**1024**4 # Số token tạo ra mặc định
|
| 39 |
MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "128000")) # Độ dài token tối đa cho đầu vào
|
| 40 |
|
| 41 |
# Xác định thiết bị sử dụng (GPU nếu có, ngược lại CPU)
|
|
|
|
| 34 |
Để biết thêm chi tiết, vui lòng xem [bài viết của chúng tôi](https://huggingface.co/blog/llama32).
|
| 35 |
"""
|
| 36 |
|
| 37 |
+
MAX_MAX_NEW_TOKENS: int = 8**1024**4 # Số token tối đa có thể tạo ra
|
| 38 |
+
DEFAULT_MAX_NEW_TOKENS: int = 8**1024**4 # Số token tạo ra mặc định
|
| 39 |
MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "128000")) # Độ dài token tối đa cho đầu vào
|
| 40 |
|
| 41 |
# Xác định thiết bị sử dụng (GPU nếu có, ngược lại CPU)
|