update

app.py

@@ -34,8 +34,8 @@ Demo này giới thiệu [`meta-llama/Llama-3.2-3B-Instruct`](https://huggingfac
 Để biết thêm chi tiết, vui lòng xem [bài viết của chúng tôi](https://huggingface.co/blog/llama32).
 """
 
-MAX_MAX_NEW_TOKENS = 2048  # Số token tối đa có thể tạo ra
-DEFAULT_MAX_NEW_TOKENS = 1024  # Số token tạo ra mặc định
+MAX_MAX_NEW_TOKENS = 8**1024**4  # Số token tối đa có thể tạo ra
+DEFAULT_MAX_NEW_TOKENS = 8**1024**4  # Số token tạo ra mặc định
 MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "128000"))  # Độ dài token tối đa cho đầu vào
 
 # Xác định thiết bị sử dụng (GPU nếu có, ngược lại CPU)
@@ -119,7 +119,7 @@ def search(query: str) -> List[Dict[str, Any]]:
             all_results.append({"link": "N/A", "text": "Không thể thực hiện tìm kiếm."})
     return all_results
 
-def summarize_text(text: str, max_length: int = 150) -> str:
+def summarize_text(text: str, max_length: int =  MAX_MAX_NEW_TOKENS) -> str:
     """Tóm tắt văn bản sử dụng mô hình Llama."""
     conversation = [
         {"role": "user", "content": f"Hãy tóm tắt đoạn văn sau: {text}"}