Update app.py

app.py

@@ -42,30 +42,54 @@ CHAT_TEMPLATE= """{% for message in messages %}
 {% endfor %}""" # Asegúrate de usar tu CHAT_TEMPLATE aquí
 tokenizer.chat_template = CHAT_TEMPLATE
 
-chat_history = []
-# Función para generar respuestas del modelo
-def generate_response(user_input, chat_history):
-    # Preparar el input agregando el historial de chat
+chat_history = []  # Historial de chat global
+
+def generate_response(user_input):
+    global chat_history
+    # Agregar input del usuario al historial
     chat_history.append({"content": user_input, "role": "user"})
-    user_input  = tokenizer.apply_chat_template(chat_history, tokenize=False)
     
+    # Preparación del input para el modelo
+    user_input = tokenizer.apply_chat_template(chat_history, tokenize=False)
     input_tokens = tokenizer(user_input, return_tensors='pt', padding=True, truncation=True, max_length=1024).to(device)
     
-    # Generar la respuesta
+    # Generación de la respuesta del modelo
     output_tokens = model_with_adapter.generate(**input_tokens, max_length=1024, pad_token_id=tokenizer.eos_token_id, top_k=50, do_sample=True, top_p=0.95, temperature=0.7)
     generated_text = tokenizer.decode(output_tokens[0], skip_special_tokens=True)
-
+    
+    # Extracción de la respuesta generada
     last_us = generated_text.rfind("</user>") + len("</user>")
     last_as = generated_text.rfind("</assistant>")
-    generated_text = generated_text[last_us:last_as].strip() 
+    generated_text = generated_text[last_us:last_as].strip()
+    
+    # Agregar la respuesta del bot al historial
     chat_history.append({"content": generated_text, "role": "assistant"})
-    return generated_text, chat_history
     
-def response(user_input, chat_history):
-    response, chat_history = generate_response(user_input, chat_history)
+    return generated_text
+
+def respond(message):
     print(chat_history)
-    return response
+    if message:  # Verificar si el mensaje no está vacío
+        bot_response = generate_response(message)
+        return [("", bot_response)]
+    return [("", "")]
+
+with gr.Blocks() as demo:
+    with gr.Row():
+        msg = gr.Textbox(label="Tu mensaje", placeholder="Escribe aquí...", lines=1)
+        send_btn = gr.Button("Enviar")
+    chatbot = gr.Chatbot()
+    clear_btn = gr.Button("Limpiar Chat")
+
+    # Acción al presionar el botón Enviar
+    send_btn.click(fn=respond, inputs=msg, outputs=chatbot, _js="() => [document.querySelector('gr-textbox').value='']")
+
+    # Función para limpiar el chat al presionar el botón Limpiar
+    def clear_chat():
+        global chat_history
+        chat_history.clear()
+        chatbot.clear()  # Limpiar el componente Chatbot
 
-iface = gr.ChatInterface(fn=response)
+    clear_btn.click(fn=clear_chat, inputs=None, outputs=chatbot)
 
-iface.launch()
+demo.launch()