Update app.py

app.py

@@ -109,31 +109,8 @@ def load_pdf_text(file_path):
     return text
 
 def load_chatbot():
-    # Hier könntest du dein Modell mit zusätzlichen Optionen laden
-    # Zum Beispiel: load_qa_chain mit einem Standard-Prompt
-    standard_prompt = "Schreibe immer höflich und auf Deutsch und frage immer nach Jahren, wenn keines explizit angegeben ist. "
-    return load_qa_chain(llm=OpenAI(model_name="gpt-3.5-turbo-instruct", prompt=standard_prompt), chain_type="stuff")
-
-
-def ask_bot(query):
-    chain = load_chatbot()
-    
-    # Definiere hier den standardmäßigen Prompt
-    standard_prompt = "Schreibe immer höflich und auf Deutsch und frage immer nach Jahren, wenn keines explizit angegeben ist. "
-    
-    # Kombiniere den standardmäßigen Prompt mit der Benutzeranfrage
-    full_query = standard_prompt + query
-
-    # Suche nach den ähnlichsten Dokumenten
-    docs = VectorStore.similarity_search(query=full_query, k=5)
-
-    with get_openai_callback() as cb:
-        # Übergib die kombinierte Anfrage an die run-Funktion
-        response = chain.run(input_documents=docs, question=full_query)
-        response = handle_no_answer(response)  # Verarbeite die Antwort durch die neue Funktion
-
-    return response
-
+    #return load_qa_chain(llm=OpenAI(), chain_type="stuff")
+    return load_qa_chain(llm=OpenAI(model_name="gpt-3.5-turbo-instruct"), chain_type="stuff")
 
 
 def display_chat_history(chat_history):
@@ -193,6 +170,11 @@ def handle_no_answer(response):
     return response
 
 
+def create_system_message():
+    return {
+        'role': 'system',
+        'content': 'You are a friendly and helpful chatbot. Remember to be polite, provide accurate information, and ask for specifics if the user query is vague - especially for years if the user isnt telling you the year. Always answer in english, even if the users asks in german.'
+    }
 
 
 def page1():
@@ -258,25 +240,26 @@ def page1():
                     query = "Was bedeutet die Vorhaltefinanzierung?"
 
 
-        
+
             if query:
                 st.session_state['chat_history_page1'].append(("User", query, "new"))
-
+            
                 # Start timing
                 start_time = time.time()
-
+                
                 with st.spinner('Bot is thinking...'):
+                    system_message = create_system_message()  # Create system message
                     chain = load_chatbot()
-                    full_query = ask_bot(query)  # Hier wird die Funktion ask_bot aufgerufen
-                    docs = VectorStore.similarity_search(query=full_query, k=5)
-
+                    docs = VectorStore.similarity_search(query=query, k=5)
+                    
+                    # Include system message in conversation history
+                    conversation_history = [{'role': 'system', 'content': system_message['content']}]  
+                    conversation_history.extend(docs)  # Add the document search results
+                    
                     with get_openai_callback() as cb:
-                        # Übergib die kombinierte Anfrage an die run-Funktion
-                        response = chain.run(input_documents=docs, question=full_query)
-                        response = handle_no_answer(response)  # Verarbeite die Antwort durch die neue Funktion
-                
-            
-                
+                        response = chain.run(input_documents=conversation_history, question=query)
+                        response = handle_no_answer(response)
+
                         
                 # Stop timing
                 end_time = time.time()