Update app.py

app.py

@@ -47,13 +47,14 @@ messages = [
 # サンプリング設定
 sampling_params = SamplingParams(max_tokens=512)
 
-# LLMの初期化 (GPUを利用)
+# LLMの初期化 (CPUを利用)
 llm = LLM(
     model=model_name,
     config_format="mistral",
     load_format="mistral",
     tokenizer_mode="mistral",
-    tensor_parallel_size=8,  # GPUを8個使用
+    tensor_parallel_size=1,  # CPUモードでは並列数は1
+    device="cpu",  # 明示的にCPUを指定
     limit_mm_per_prompt={"image": 4}  # マルチモーダル入力制限
 )