Update app.py

app.py

@@ -3,17 +3,10 @@ from huggingface_hub import InferenceClient
 from gtts import gTTS
 import streamlit.components.v1 as stc
 
-# Establecer el cliente de inferencia
 client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
-
-# Configuración del sistema
 system_prompt = "Tu nombre es Xaman 3.0"
 system_prompt_sent = False
 
-# Configuración del estilo para el texto de respuesta
-response_style = "background-color: #f0f0f0; padding: 10px; border-radius: 10px; margin: 10px 0; max-height: 700px; overflow-y: auto;"
-
-# Función para formatear el prompt
 def format_prompt(message, history):
     global system_prompt_sent
     prompt = "<s>"
@@ -30,17 +23,18 @@ def format_prompt(message, history):
     prompt += f"[INST] {message} [/INST]"
     return prompt
 
-# Función para convertir texto a voz
 def text_to_speech(text):
     tts = gTTS(text=text, lang='es')
     tts.save('output.mp3')
     return 'output.mp3'
 
-# Función para generar respuesta y mostrar en la interfaz
-def generate(user_input, history, temperature=None, max_new_tokens=2048, top_p=0.95, repetition_penalty=1.0):
+def generate(
+    user_input, history, temperature=None, max_new_tokens=2048, top_p=0.95, repetition_penalty=1.0,
+):
     global system_prompt_sent
     temperature = float(temperature) if temperature is not None else 0.9
-    temperature = max(temperature, 0.01)  # Asegurar que la temperatura sea al menos 0.01
+    if temperature < 1e-2:
+        temperature = 1e-2
     top_p = float(top_p)
 
     generate_kwargs = dict(
@@ -53,26 +47,18 @@ def generate(user_input, history, temperature=None, max_new_tokens=2048, top_p=0
     )
 
     formatted_prompt = format_prompt(user_input, history)
-    
-    with st.spinner('Generando respuesta...'):
-        stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=True)
-        output = ""
+    stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=True)
+    response = " ".join(response.token.text for response in stream)
+
+    st.markdown(f"<p style='text-align: justify;'>{response}</p>", unsafe_allow_html=True)
+    audio_file = text_to_speech(response)
+    st.audio(audio_file, format="audio/mp3", start_time=0)
 
-        for response in stream:
-            output = response.token.text
-            st.markdown(f"<div style='{response_style} text-align: justify;'>{output}</div>", unsafe_allow_html=True)
-            audio_file = text_to_speech(output)
-            st.audio(audio_file, format="audio/mp3", start_time=0)
-            
-    return output
+    return response
 
-# Obtener la historia del chat desde la sesión de Streamlit
 if "history" not in st.session_state:
     st.session_state.history = []
 
-# Interfaz de usuario
-st.title("Chatbot Mejorado")
 user_input = st.text_input(label="Usuario", value="Escribe aquí tu mensaje")
-if st.button("Enviar"):
-    output = generate(user_input, history=st.session_state.history)
-    st.session_state.history.append((user_input, output))
+output = generate(user_input, history=st.session_state.history)
+st.session_state.history.append((user_input, output))