Update app.py

app.py

@@ -1,12 +1,30 @@
-import streamlit as st
 from huggingface_hub import InferenceClient
-
-st.set_page_config(page_title="MAYA 3.0 CHATBOT IA", page_icon=":robot_face:")
+import gradio as gr
 
 client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
-conversation_history = []
 
-def generate_response(user_input, history, system_prompt, temperature=0.9, max_new_tokens=2048, top_p=0.95, repetition_penalty=1.0):
+# Función para generar el system_prompt basado en la opción seleccionada en el radiobutton
+def get_system_prompt(selected_option):
+    prompts = {
+        "MAESTRO": "Soy un maestro que te guiará sabiamente.",
+        "MEDICO": "Como médico, te daré información de salud.",
+        "TERAPEUTA": "Ofrezco apoyo terapéutico para tu bienestar emocional.",
+        "NUTRIOLOGO": "Como nutriólogo, te proporcionaré consejos nutricionales.",
+        "FILOSOFO": "Reflexionemos sobre la filosofía de la vida.",
+    }
+    return prompts.get(selected_option, "")
+
+def format_prompt(message, history):
+    prompt = "<s>"
+    for user_prompt, bot_response in history:
+        prompt += f"[INST] {user_prompt} [/INST]"
+        prompt += f" {bot_response}</s> "
+    prompt += f"[INST] {message} [/INST]"
+    return prompt
+
+def generate(
+    prompt, history, system_prompt="", temperature=0.9, max_new_tokens=2048, top_p=0.95, repetition_penalty=1.0,
+):
     temperature = float(temperature)
     if temperature < 1e-2:
         temperature = 1e-2
@@ -21,56 +39,33 @@ def generate_response(user_input, history, system_prompt, temperature=0.9, max_n
         seed=42,
     )
 
-    formatted_prompt = format_prompt(f"{system_prompt}, {user_input}", history)
-    response = client.text_generation(formatted_prompt, **generate_kwargs)
-    return response["generated_text"]
-
-def format_prompt(message, history):
-    prompt = "<s>"
-    for user_prompt, bot_response in history:
-        prompt += f"[INST] {user_prompt} [/INST]"
-        prompt += f" {bot_response}</s> "
-    prompt += f"[INST] {message} [/INST]"
-    return prompt
-
-def validate_input(user_input, system_prompt):
-    if not user_input:
-        st.warning("Por favor ingrese un mensaje.")
-        return False
-    if not system_prompt:
-        st.warning("Por favor ingrese un prompt del sistema.")
-        return False
-    return True
-
-def display_help():
-    st.write("También puede ingresar un prompt del sistema para guiar la generación de texto.")
-
-def display_conversation_history(history):
-    for role, message in history:
-        if role == "user":
-            st.text(f"Usuario: {message}")
-        elif role == "bot":
-            st.text(f"Chatbot: {message}")
+    formatted_prompt = format_prompt(f"{system_prompt}, {prompt}", history)
+    stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=True)
+    output = ""
 
-def main():
-    st.title("MAYA 3.0 CHATBOT IA")
-    user_input = st.text_input("Escribe tu mensaje")
-    system_prompt = st.text_input("Ingrese el prompt del sistema")
-    temperature = st.hidden_selectbox("Temperatura", options=list(range(1, 11)))
-    max_new_tokens = st.hidden_selectbox("Número máximo de nuevos tokens", options=list(range(1, 2049)))
-    top_p = st.hidden_selectbox("Top-p (nucleus sampling)", options=list(range(1, 11)))
-    repetition_penalty = st.hidden_selectbox("Penalización por repetición", options=list(range(1, 2)))
+    for response in stream:
+        output += response.token.text
+        yield output
+    return output
 
-    if st.button("Enviar"):
-        if validate_input(user_input, system_prompt):
-            conversation_history.append(("user", user_input))
-            bot_response = generate_response(user_input, conversation_history, system_prompt, temperature, max_new_tokens, top_p, repetition_penalty)
-            conversation_history.append(("bot", bot_response))
+# Configuración de la interfaz con radiobuttons en lugar de barra lateral
+roles_options = ["MAESTRO", "MEDICO", "TERAPEUTA", "NUTRIOLOGO", "FILOSOFO"]
+roles_radio = gr.Radio(label="Selecciona un rol:", choices=roles_options)
 
-    if st.button("Ayuda"):
-        display_help()
+# Función para actualizar el system_prompt cuando cambia la opción en el radiobutton
+def update_system_prompt(selected_option):
+    return get_system_prompt(selected_option)
 
-    display_conversation_history(conversation_history)
+# Configuración de la interfaz de chat con radiobuttons
+chat_interface = gr.ChatInterface(
+    fn=generate,
+    inputs=["text", "text", "text", "number", "number", "number"],
+    outputs=["text"],
+    live=True,
+    theme="huggingface",
+    inputs=[roles_radio, "text", "text", "number", "number", "number"],
+    on_input_change=update_system_prompt,
+)
 
-if __name__ == "__main__":
-    main()
+# Lanzar la interfaz
+chat_interface.launch()