Spaces:
Sleeping
Sleeping
Update app.py
Browse files
app.py
CHANGED
@@ -101,14 +101,14 @@ if start_eval:
|
|
101 |
with st.spinner("Chargement du modèle de post-traitement Mistral..."):
|
102 |
postproc_pipe = pipeline(
|
103 |
"text2text-generation",
|
104 |
-
model="
|
105 |
device_map="auto", # ou device=0 si tu veux forcer le GPU
|
106 |
torch_dtype=torch.float16 # optionnel mais plus léger
|
107 |
)
|
108 |
st.success("✅ Modèle Mistral chargé.")
|
109 |
|
110 |
def postprocess_with_llm(text):
|
111 |
-
prompt = f"
|
112 |
result = postproc_pipe(prompt, max_new_tokens=256)[0]["generated_text"]
|
113 |
return result.strip()
|
114 |
|
|
|
101 |
with st.spinner("Chargement du modèle de post-traitement Mistral..."):
|
102 |
postproc_pipe = pipeline(
|
103 |
"text2text-generation",
|
104 |
+
model="mistralai/Mistral-7B-Instruct-v0.2",
|
105 |
device_map="auto", # ou device=0 si tu veux forcer le GPU
|
106 |
torch_dtype=torch.float16 # optionnel mais plus léger
|
107 |
)
|
108 |
st.success("✅ Modèle Mistral chargé.")
|
109 |
|
110 |
def postprocess_with_llm(text):
|
111 |
+
prompt = f"Tu es CorrecteurAI, une AI française qui permet de corriger les erreurs de saisie vocal. La translation d'un enregistrement audio tiré d'une inspection détaillé de pont t'es envoyé et tu renvoies le texte identique mais avec les éventuelles corrections si des erreurs sont détectés. Le texte peut comprendre du vocabulaire technique associé aux ouvrages d'art. Renvoies uniquement le texte corrigé en français et sans autre commentaire. Voici le texte : {text}"
|
112 |
result = postproc_pipe(prompt, max_new_tokens=256)[0]["generated_text"]
|
113 |
return result.strip()
|
114 |
|