Update Dockerfile

Dockerfile

@@ -21,8 +21,7 @@ ENV CUDA_DOCKER_ARCH=${CUDA_DOCKER_ARCH}
 
 RUN mkdir build && \
     cd build && \
-#    cmake .. -DLLAMA_CUBLAS=ON && \
-    cmake .. && \
+    cmake .. -DLLAMA_CUBLAS=ON && \
     cmake --build . --config Release
 
 WORKDIR /data
@@ -39,4 +38,4 @@ COPY --from=build /data/model.gguf /data/model.gguf
 WORKDIR /app
 EXPOSE 7860
 
-CMD ./server -m /data/model.gguf -c 4096 --port 7860 --host 0.0.0.0
+CMD ./server -m /data/model.gguf -c 4096 -t 2 --port 7860 --host 0.0.0.0