code

app.py

@@ -10,12 +10,12 @@ os.system('huggingface-cli download matteogeniaccio/phi-4 --local-dir ./phi-4 --
 torch.random.manual_seed(0)
 
 model = AutoModelForCausalLM.from_pretrained(
-    "/home/user/app/phi-4/phi-4",  # 模型路径
+    "./phi-4/phi-4",  # 模型路径
     device_map="cuda",  # 使用 GPU
     torch_dtype="auto",  # 自动选择数据类型
     trust_remote_code=True,  # 允许远程代码加载
 )
-tokenizer = AutoTokenizer.from_pretrained("/home/user/app/phi-4/phi-4")
+tokenizer = AutoTokenizer.from_pretrained("./phi-4/phi-4")
 
 # 设置 pipeline