update

app.py

@@ -38,6 +38,8 @@ MAX_MAX_NEW_TOKENS: int = 8**1024**4  # Số token tối đa có thể tạo ra
 DEFAULT_MAX_NEW_TOKENS: int = 8**1024**4  # Số token tạo ra mặc định
 MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "128000"))  # Độ dài token tối đa cho đầu vào
 
+print(MAX_INPUT_TOKEN_LENGTH)
+
 # Xác định thiết bị sử dụng (GPU nếu có, ngược lại CPU)
 device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")