Upload run.sh with huggingface_hub

run.sh

@@ -0,0 +1,10 @@
+CUDA_VISIBLE_DEVICES=1 python main.py \
+    --model NousResearch/llama-2-7b-hf \
+    --prune_method wanda \
+    --sparsity_ratio 0.5 \
+    --sparsity_type 2:4 \
+    --save out/llama2_7b/unstructured/wanda/ \
+    --eval_zero_shot \
+    --module_name self \
+    --permutate_mode eval \
+    --layer_id 5