Update app.py

app.py

@@ -1,11 +1,11 @@
 import pandas as pd
-from langchain_groq import ChatGroq
 from langchain_huggingface import HuggingFaceEmbeddings
 from langchain_chroma import Chroma
 from langchain_core.prompts import PromptTemplate
 from langchain_core.output_parsers import StrOutputParser
 from langchain_core.runnables import RunnablePassthrough
 import gradio as gr
+from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
 
 # Carga los datos de entrenamiento
 df = pd.read_csv('./botreformasconstrucciones.csv')
@@ -13,25 +13,20 @@ df = pd.read_csv('./botreformasconstrucciones.csv')
 # Crea un arreglo con los contextos
 context_data = []
 for i in range(len(df)):
-  context = ""
-  for j in range(3):
-    context += df.columns[j]
-    context += ": "
-    context += df.iloc[i, j]  # Cambia esto
-    context += " "
-  context_data.append(context)
-
-# Importa las bibliotecas necesarias
-import os
-from langchain_groq import ChatGroq
-from langchain_huggingface import HuggingFaceEmbeddings
-from langchain_chroma import Chroma
+    context = ""
+    for j in range(3):
+        context += df.columns[j]
+        context += ": "
+        context += df.iloc[i, j]  # Cambia esto
+        context += " "
+    context_data.append(context)
 
-# Obtiene la clave de API de Groq
-groq_key = os.environ.get('groq_api_keys')
+# Crea el tokenizer y el modelo de Llama-2
+tokenizer = AutoTokenizer.from_pretrained("meta-llama/Llama-2-7b-chat-hf")
+model = AutoModelForCausalLM.from_pretrained("meta-llama/Llama-2-7b-chat-hf")
 
-# Crea un objeto ChatGroq con el modelo de lenguaje
-llm = ChatGroq(model="llama-3.1-70b-versatile", api_key=groq_key)
+# Crea un pipeline para la generación de texto
+llm = pipeline("text-generation", model=model, tokenizer=tokenizer)
 
 # Crea un objeto HuggingFaceEmbeddings con el modelo de embeddings
 embed_model = HuggingFaceEmbeddings(model_name="mixedbread-ai/mxbai-embed-large-v1")
@@ -51,7 +46,7 @@ retriever = vectorstore.as_retriever()
 # Crea un objeto PromptTemplate con el prompt
 template = ("""tu eres un experto asistente de gnostic dev, desarrollo web, experto en wordpress, paginas web, plataformas, 
 ecommerce, aplicaciones con ia, debes responder cuestiones tecnicas a los posinles clientes, 
-y recordarles que para cualquier duda puede contactar conmigo mediante el chat que encontraras debajo a la derecha de la pantalla y me pondre contacto contigo lo antes posible, darle razones por las que soy la mejor opcion para contratar el desarrollo web, desde precios muy asequibles comparados con lo que les costaria en un estudio o empresa de desarrollo, gracias a ser freelancer ofrezco un soporte tecnivo personal e ilimitado en soporte tecnico, y de regalo la version apk como aplicacion para android por cada web, ademas de un chatbot y asistente,
+y recordarles que para cualquier duda puede contactar conmigo mediante el chat que encontraras debajo a la derecha de la pantalla y me pondre contacto contigo lo antes posible, darle razones por las que soy la mejor opcion para contratar el desarrollo web, desde precios muy asequibles comparados con lo que les costaria en un estudio o empresa de desarrollo, gracias a ser freelancer ofrezco un soporte tecnico personal e ilimitado en soporte tecnico, y de regalo la version apk como aplicacion para android por cada web, ademas de un chatbot y asistente,
     Context: {context}
     Question: {question}
     Answer:""")
@@ -60,22 +55,19 @@ y recordarles que para cualquier duda puede contactar conmigo mediante el chat q
 rag_prompt = PromptTemplate.from_template(template)
 
 # Crea un objeto StrOutputParser para parsear la salida
-from langchain_core.output_parsers import StrOutputParser
+output_parser = StrOutputParser()
 
 # Crea un objeto RunnablePassthrough para ejecutar el modelo
-from langchain_core.runnables import RunnablePassthrough
+runnable_passthrough = RunnablePassthrough()
 
 # Crea un objeto rag_chain con el modelo y el prompt
 rag_chain = (
-    {"context": retriever, "question": RunnablePassthrough()}
+    {"context": retriever, "question": runnable_passthrough}
     | rag_prompt
     | llm
-    | StrOutputParser()
+    | output_parser
 )
 
-# Importa la biblioteca Gradio
-import gradio as gr
-
 # Crea una función para procesar la entrada del usuario
 def rag_memory_stream(message, history):
     partial_text = ""
@@ -85,7 +77,7 @@ def rag_memory_stream(message, history):
 
 # Crea un objeto Gradio con la función y el título
 examples = [
-    "¿Cómo instalar wordpress por FTP?"
+    "¿Cómo instalar wordpress por FTP?",
     "¿Como limpiar un wordpress hackeado?",
     "¿Cómo importar productos en wooocommerce?"
 ]
@@ -102,4 +94,4 @@ demo = gr.ChatInterface(fn=rag_memory_stream,
 
 # Lanza la aplicación
 if __name__ == "__main__":
-    demo.launch()
+    demo.launch()