Update app.py

app.py

@@ -1,31 +1,32 @@
 from langchain_community.vectorstores import Chroma
 from langchain_huggingface import HuggingFaceEmbeddings
-from langchain_community.chat_models import ChatOpenAI
+from langchain_community.chat_models import ChatHuggingFace
 from langchain_core.output_parsers import StrOutputParser
 from langchain import hub
 import gradio as gr
-import os
 
-# Configurar tu clave de OpenAI (puedes usar otra fuente Hugging Face si prefieres)
-openai_api_key = os.environ.get("OPENAI_API_KEY", "")
-
-# Modelo remoto (si prefieres usar otro, aquí se cambia)
-llm = ChatOpenAI(openai_api_key=openai_api_key, model="gpt-3.5-turbo", temperature=0)
-parser = StrOutputParser()
-
-# Cargar embeddings (debe ser el mismo modelo que usaste en Colab)
+# Cargar embeddings (debe coincidir con los usados en Colab)
 embedding_function = HuggingFaceEmbeddings(
     model_name="sentence-transformers/paraphrase-multilingual-mpnet-base-v2",
     model_kwargs={"device": "cpu"}
 )
 
-# Cargar vectorstore persistente
+# Cargar la base de vectores persistida
 vectordb = Chroma(
     persist_directory="chroma_db",
     embedding_function=embedding_function
 )
 
-# Función RAG
+# Cargar modelo de lenguaje gratuito y usable sin clave
+llm = ChatHuggingFace(
+    repo_id="mistralai/Mistral-7B-Instruct-v0.1",
+    task="text-generation",
+    model_kwargs={"temperature": 0.7, "max_new_tokens": 512}
+)
+
+# Crear la cadena de procesamiento
+parser = StrOutputParser()
+
 def responder_pregunta(query):
     docs = vectordb.similarity_search_with_score(query, k=5)
     prompt = hub.pull("rlm/rag-prompt")
@@ -48,6 +49,6 @@ gr.Interface(
     fn=responder_pregunta,
     inputs=gr.Textbox(label="Pregunta sobre nutrición"),
     outputs="text",
-    title="Sistema de Preguntas sobre Nutrición",
-    description="Pregunta sobre el contenido del manual clínico. Basado en RAG con LangChain y Hugging Face."
+    title="Sistema RAG sobre Nutrición Clínica",
+    description="Haz preguntas sobre el manual clínico procesado con RAG, embeddings y Mistral 7B."
 ).launch()