init

app.py

@@ -3,7 +3,7 @@ from AinaTheme import theme
 from faster_whisper import WhisperModel
 import torch
 
-device, torch_dtype = ("cuda", "float32") if torch.cuda.is_available() else ("cpu", "float32")
+device, torch_dtype = ("cuda", "float32") if torch.cuda.is_available() else ("cpu", "int8")
 
 MODEL_NAME = "suzii/vi-whisper-large-v3-turbo-v1-ct2"
 print("Loading model ...")
@@ -31,9 +31,7 @@ def transcribe(inputs):
     return text
 
 
-description_string = "Transcripció automàtica de micròfon o de fitxers d'àudio.\n Aquest demostrador s'ha desenvolupat per"\
-              " comprovar els models de reconeixement de parla per a móbils. Per ara utilitza el checkpoint "\
-              f"[{MODEL_NAME}](https://huggingface.co/{MODEL_NAME}) i la llibreria de 🤗 Transformers per a la transcripció."
+
 
 
 def clear():
@@ -41,7 +39,7 @@ def clear():
 
 
 with gr.Blocks(theme=theme) as demo:
-    gr.Markdown(description_string)
+    gr.Markdown("CPU - type: int8")
     with gr.Row():
         with gr.Column(scale=1):
             input = gr.Audio(sources=["upload", "microphone"], type="filepath", label="Audio")