Update README.md
Browse files
README.md
CHANGED
@@ -9,10 +9,54 @@ base_model:
|
|
9 |
|
10 |
|
11 |
```python
|
12 |
-
from
|
13 |
|
14 |
-
|
15 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
16 |
```
|
17 |
## Categorias:
|
18 |
```json
|
|
|
9 |
|
10 |
|
11 |
```python
|
12 |
+
from vllm import LLM
|
13 |
|
14 |
+
# Inicializar o modelo
|
15 |
+
llm = LLM(
|
16 |
+
model="J-LAB/Classificador_de_prompt",
|
17 |
+
task="classify",
|
18 |
+
enforce_eager=True,
|
19 |
+
hf_overrides={"architectures": ["LlamaForCausalLM"]}
|
20 |
+
)
|
21 |
+
|
22 |
+
# Lista de prompts para testar
|
23 |
+
prompts = [
|
24 |
+
"Hello, my name is",
|
25 |
+
"The president of the United States is",
|
26 |
+
"The capital of France is",
|
27 |
+
"The future of AI is",
|
28 |
+
]
|
29 |
+
|
30 |
+
# Dicionário com os labels das classes (baseado no modelo original)
|
31 |
+
id2label = {
|
32 |
+
0: "Arte e Cultura",
|
33 |
+
1: "Ciência e Tecnologia",
|
34 |
+
2: "Educação e Aprendizado",
|
35 |
+
3: "Entretenimento e Lazer",
|
36 |
+
4: "Negócios e Finanças",
|
37 |
+
5: "Notícias e Atualidades",
|
38 |
+
6: "Programação e Desenvolvimento",
|
39 |
+
7: "Saúde e Bem-estar",
|
40 |
+
8: "Sociedade e Relacionamentos",
|
41 |
+
9: "Viagens e Turismo"
|
42 |
+
}
|
43 |
+
|
44 |
+
# Classificar os prompts
|
45 |
+
outputs = llm.classify(prompts)
|
46 |
+
|
47 |
+
# Imprimir resultados com os labels
|
48 |
+
for prompt, output in zip(prompts, outputs):
|
49 |
+
probs = output.outputs.probs
|
50 |
+
|
51 |
+
# Criar lista de tuplas (probabilidade, classe) e ordenar
|
52 |
+
prob_class_pairs = [(prob, id2label[i]) for i, prob in enumerate(probs)]
|
53 |
+
prob_class_pairs.sort(reverse=True)
|
54 |
+
|
55 |
+
# Mostrar as 3 classes mais prováveis
|
56 |
+
print(f"\nPrompt: {prompt!r}")
|
57 |
+
print("Top 3 classes mais prováveis:")
|
58 |
+
for prob, class_name in prob_class_pairs[:3]:
|
59 |
+
print(f"- {class_name}: {prob:.2%}")
|
60 |
```
|
61 |
## Categorias:
|
62 |
```json
|