Update README.md
Browse files
README.md
CHANGED
@@ -22,14 +22,16 @@ ajuste se han extra铆do multitud de textos de 铆ndole administrativa de las prin
|
|
22 |
|
23 |
Para la carga y ajuste del modelo se han utilizado t茅cnicas de cuantizaci贸n con la siguiente configuraci贸n:
|
24 |
|
25 |
-
|
26 |
-
|
27 |
bnb_4bit_quant_type='nf4',
|
28 |
bnb_4bit_compute_dtype='float16',
|
29 |
-
bnb_4bit_use_double_quant=True)
|
|
|
30 |
|
31 |
|
32 |
|
|
|
33 |
|
34 |
y se ha aplicado LoRA a las capas lineales para el fine-tunning.
|
35 |
|
|
|
22 |
|
23 |
Para la carga y ajuste del modelo se han utilizado t茅cnicas de cuantizaci贸n con la siguiente configuraci贸n:
|
24 |
|
25 |
+
'''
|
26 |
+
bnb_config = BitsAndBytesConfig(load_in_4bit=True,
|
27 |
bnb_4bit_quant_type='nf4',
|
28 |
bnb_4bit_compute_dtype='float16',
|
29 |
+
bnb_4bit_use_double_quant=True)
|
30 |
+
|
31 |
|
32 |
|
33 |
|
34 |
+
'''
|
35 |
|
36 |
y se ha aplicado LoRA a las capas lineales para el fine-tunning.
|
37 |
|