File size: 879 Bytes
930aad0 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 |
quantization method,hardware,bits
AQLM,CPU,1
AQLM,CPU,2
AQLM,CUDA GPU,1
AQLM,CUDA GPU,2
AWQ,CPU,4
AWQ,CUDA GPU,4
AWQ,ROCm GPU,4
bitsandbytes,CUDA GPU,4
bitsandbytes,CUDA GPU,8
compressed-tensors,CPU,1
compressed-tensors,CPU,8
compressed-tensors,CUDA GPU,1
compressed-tensors,CUDA GPU,8
compressed-tensors,ROCm GPU,1
compressed-tensors,ROCm GPU,8
EETQ,CUDA GPU,8
GGUF,CPU,1
GGUF,CPU,8
GGUF,CUDA GPU,1
GGUF,CUDA GPU,8
GGUF,Apple Silicon,1
GGUF,Apple Silicon,8
GPTQ,CUDA GPU,2
GPTQ,CUDA GPU,3
GPTQ,CUDA GPU,4
GPTQ,CUDA GPU,8
GPTQ,ROCm GPU,2
GPTQ,ROCm GPU,3
GPTQ,ROCm GPU,4
GPTQ,ROCm GPU,8
HQQ,CPU,1
HQQ,CPU,8
HQQ,CUDA GPU,1
HQQ,CUDA GPU,8
optimum-quanto,CPU,2
optimum-quanto,CPU,4
optimum-quanto,CPU,8
optimum-quanto,CUDA GPU,2
optimum-quanto,CUDA GPU,4
optimum-quanto,CUDA GPU,8
FBGEMM_FP8,CUDA GPU,8
torchao,CUDA GPU,4
torchao,CUDA GPU,8 |