Update app.py

app.py

@@ -1,5 +1,4 @@
 import uuid
-from wrappers import *
 from embedding_loader import *
 from initialize_db import QdrantClientInitializer
 from pdf_loader import PDFLoader
@@ -8,152 +7,320 @@ import gradio as gr
 from langchain_core.messages import HumanMessage, AIMessage
 from langchain.memory import ConversationBufferMemory
 from langchain_core.chat_history import InMemoryChatMessageHistory
+from qdrant_client import QdrantClient, models
+from db_operations import DatabaseOperations
+from openai import AzureOpenAI
+import json 
+from qdrant_client.http import models as rest
 
 embeddings = import_embedding()
 AZURE_OPENAI_KEY = os.getenv('azure_api')
 os.environ['AZURE_OPENAI_KEY'] = AZURE_OPENAI_KEY
 openai.api_version = "2024-02-15-preview" # change it with your own version
 openai.azure_endpoint = os.getenv('azure_endpoint')
-model = "gpt35turbo" # deployment name on Azure OPENAI Studio
-myLLM = AzureChatOpenAI(azure_endpoint = openai.azure_endpoint, 
+
+model = "gpt4o" # deployment name on Azure OPENAI Studio
+client = AzureOpenAI(azure_endpoint = openai.azure_endpoint, 
                             api_key=AZURE_OPENAI_KEY,  
-                            api_version=openai.api_version,
-                            temperature=0,
-                            streaming=True, 
-                            model = model,)
+                            api_version=openai.api_version)
 
 obj_qdrant = QdrantClientInitializer()
 client = obj_qdrant.initialize_db()
 obj_loader = PDFLoader()
 
-# def print_result(question, result):
-#   output_text = f"""### Question: 
-#   {question}
-#   ### Answer: 
-#   {result}
-#   """
-#   return(output_text)
-
-# def format_chat_prompt(chat_history):
-#     prompt = []
-
-#     for turn in chat_history:
-#         user_message, ai_message = turn
-#         prompt.append(HumanMessage(user_message))
-#         prompt.append(AIMessage(ai_message))
-    
-#     chat_history = InMemoryChatMessageHistory(messages=prompt)
-#     memory = ConversationBufferMemory(chat_memory=chat_history, memory_key="history", input_key="question")
-#     return memory
-
-# def chat(question, manual, history):
-#     history = history or []
-#     memory = format_chat_prompt(history)
-#     manual_list = {"Toyota_Corolla_2024_TR": -8580416610875007536, 
-#                    "Renault_Clio_2024_TR":-5514489544983735006, 
-#                    "Fiat_Egea_2024_TR":-2026113796962100812}
-    
-#     collection_list = {"Toyota_Corolla_2024_TR": "TOYOTA_MANUAL_COLLECTION_EMBED3", 
-#                    "Renault_Clio_2024_TR": "RENAULT_MANUAL_COLLECTION_EMBED3", 
-#                    "Fiat_Egea_2024_TR": "FIAT_MANUAL_COLLECTION_EMBED3"}
-    
-#     collection_name = collection_list[f"{manual}"]
+# -----
+def retriever_db(db, CAR_ID):
+
+        retriever = db.as_retriever(search_kwargs={'k': 4}, filter=rest.Filter(
+            must=[
+                models.FieldCondition(key="car_id", match=models.MatchValue(value=CAR_ID))
+                ]
+              ))
+        
+        return retriever
 
-#     db = obj_loader.load_from_database(embeddings=embeddings, collection_name=collection_name)
+## new version
+def chat_gpt(prompt=None, history=[], model=model, client=client, tools=[None]):
     
-#     CAR_ID = manual_list[f"{manual}"]
-#     wrapper = Wrappers(collection_name, client, embeddings, myLLM, db, CAR_ID, memory)
+    if prompt is None:
+        messages = history
+    else:
+        history.append({"role": "user", "content": f"{prompt}"})
+        messages = history
     
-#     inputs = {"question": question, "iter_halucination": 0}
-#     app = wrapper.lagchain_graph()
-
-#     for output in app.stream(inputs):
-#         for key, value in output.items():
-#             pprint(f"Finished running: {key}:")
-#     # display(Markdown(print_result(question, value["generation"]['text']))) 
-#     response = value["generation"]['text']
-#     history.append((question, response))
-
-#     point_id = uuid.uuid4().hex
-#     DatabaseOperations.save_user_history_demo(client, "USER_COLLECTION_EMBED3", question, response, embeddings, point_id, manual)
-
-#     return '', history
-
-# def vote(data: gr.LikeData):
-#     if data.liked:
-#         print("You upvoted this response: ")
-#         return "OK"
-#     else:
-#         print("You downvoted this response: " )
-#         return "NOK"
-
-
-
-# manual_list = ["Toyota_Corolla_2024_TR", "Renault_Clio_2024_TR", "Fiat_Egea_2024_TR"]
-
-# with gr.Blocks() as demo:
-
-#     chatbot = gr.Chatbot(height=600)
-#     manual = gr.Dropdown(label="Kullanım Kılavuzları", value="Toyota_Corolla_2024_TR", choices=manual_list)
-#     textbox = gr.Textbox()
-#     clear = gr.ClearButton(components=[textbox, chatbot], value='Clear console')
-#     textbox.submit(chat, [textbox, manual, chatbot], [textbox, chatbot])
-#     chatbot.like(vote, None, None)  # Adding this line causes the like/dislike icons to appear in your chatbot
+    completion = client.chat.completions.create(
+    model=model,
+    messages=messages,
+    tools=tools
+)
+    return completion
+
+retrieval_functions = [
+    {
+        "type": "function",
+        "function":{
+            "name": "get_section_content",
+            "description": """Use this function to get the contents of a particular section of a user manual.""",
+            "parameters": {
+                "type": "object",
+                "properties": {
+                    "section_title": {
+                        "type": "string",
+                        "description": "Title of the section in the user manual",
+                    },
+                    "sub_section_title": {
+                        "type": "string",
+                        "description": "Title of the subsection in the user manual",
+                    },
+                    "sub_sub_section_title": {
+                        "type": "string",
+                        "description": "Title of the subsubsection in the user manual",
+                    }
+                },
+                "required": ["section_title", "sub_section_title", "sub_sub_section_title"],
+                }
+            }
+    }
+]
 
-# # gr.close_all()   
-# demo.launch(share=True)
+table_of_contents_path = "tableofcontent.txt"
 
-def print_result(question, result):
-  output_text = f"""### Question: 
-  {question}
-  ### Answer: 
-  {result}
-  """
-  return(output_text)
+def get_section_content(section_title, sub_section_title, sub_sub_section_title, content_path=table_of_contents_path):
+    
+    with open(content_path, "r") as file:
+        doc_section_content = json.loads(file.read())
+        
+    response = None
+    for sections in doc_section_content["TableOfContents"]:
+        if sections['title'] == section_title:
+            # print("Section:", sections)
+
+            for sub_sections in sections['subsections']:
+                if sub_sections['title'] == sub_section_title:
+                    # print("SubSection:", sub_sections)
+
+                    for sub_sub_sections in sub_sections['subsections']:
+                        if sub_sub_sections['title'] == sub_sub_section_title:
+                            # print("SubSubSection:", sub_sub_sections)
+                            
+                            try: 
+                                # print("SubSubSection_Details:", str(sub_sub_sections['details']))
+                                response = sub_sub_sections['details']
+                                # print("SubSubSection_Details:", str(sub_sub_sections['content']))
+                                # response = sub_sub_sections['content']
+                            except:
+                                pass    
+                            
+                        else:
+                            # response = sub_sections['content']
+                            pass
+                            
+                else:
+                    # response = sections['content']
+                    pass
+                    
+            
+        else:
+            pass
+
+    return response
+
+def get_lead_result(question):
+    hizmet_listesi = {"Bakım": """Check-Up, Periyodik Bakım, Aks Değişimi, Amortisör Değişimi, Amortisör Takozu Değişimi, Baskı Balata Değişimi, Benzin Filtresi Değişimi,
+                    Debriyaj Balatası Değişimi, Direksiyon Kutusu Değişimi, Dizel Araç Bakımı, Egzoz Muayenesi, Fren Kaliperi Değişimi, El Freni Teli Değişimi,
+                    Fren Balatası Değişimi, Fren Disk Değişimi, Hava Filtresi Değişimi, Helezon Yay Değişimi, Kampana Fren Balatası Değişimi, 
+                    Kızdırma Bujisi Değişimi, Rot Başı Değişimi, Rot Kolu Değişimi, Rotil Değişimi, Silecek Değişimi, Süspansiyon, Triger Kayışı Değişimi,
+                    Triger Zinciri Değişimi, V Kayışı Değişimi, Yağ Filtresi Değişimi, Yakıt Filtresi Değişimi, Havayastığı Değişimi""",
+                                    "Yağ ve Sıvılar": """Şanzıman Yağı Değişimi, Dizel Araçlarda Yağ Değişimi, Yağ Değişimi, Fren Hidrolik Değişimi, Antifriz Değişimi,""",
+                                    "Akü": """Akü Şarj Etme, Akü Değişimi""",
+                                    "Klima": """Oto Klima Kompresörü Tamiri, Oto Klima Tamiri, Araç Klima Temizliği, Araç Klima Bakteri Temizliği, Klima Gazı Dolumu, Klima Dezenfeksiyonu, Polen Filtresi Değişimi""",
+                                    "Elektrik": """Servis Uyarı Lambası Sıfırlama,Buji Kablosu Değişimi, Arıza Tespit, Göstergelerin Kontrolü, Far Ayarı ve Ampul Değişimi, Buji Değişimi, Sigorta Değişimi""",
+                                    "Lastik/ Jant": """Lastik Jant Satış, Lastik Değişimi, Balans Ayarı, Rot Ayarı, Rotasyon, Lastik Tamiri, Hava Kontrolü, Nitrojen Dolumu, Supap Değişimi, Lastik Saklama (Lastik Oteli), Jant Sökme Takma,""",
+                                    "Diğer": """Cam Tamiri""",
+                                    "Hibrit Araçlar": "Hibrit Araç Aküsü"}
+    
+    lead_functions = [
+        {
+            "type": "function",
+            "function": {
+                "name": "grade_service_relevance",
+                "description": "Grade the relevance of services to a user question",
+                "parameters": {
+                    "type": "object",
+                    "properties": {
+                        "binary_score": {
+                            "type": "string",
+                            "description": "Services are relevant to the question, 'yes' or 'no'",
+                            "enum": ["yes", "no"]
+                        }
+                    },
+                    "required": ["binary_score"]
+                }
+            }
+        }
+    ]
+
+    # System message
+
+    system_message = """Soruyu cevaplarken:
+                            1- Önce soruyu düşün.
+                            2- Kullanıcının sorduğu soru, hizmet listesinde sunulan hizmetlerle alakalı mı?  
+                            Alakalı ise "yes", değilse "no" olarak cevap ver."""
+
+    def service_grader_relevance(hizmet_listesi: str, question: str) -> dict:
+        completion = client.chat.completions.create(
+            model=model,
+            messages=[
+                {"role": "system", "content": system_message},
+                {"role": "user", "content": f"Provided services: \n\n {hizmet_listesi} \n\n User question: {question}"}
+            ],
+            tools=lead_functions,
+            tool_choice={"type": "function", "function": {"name": "grade_service_relevance"}}
+        )
+        
+        tool_call = completion.choices[0].message.tool_calls[0]
+        return json.loads(tool_call.function.arguments)
 
 
-def format_chat_prompt(chat_history):
-    prompt = []
+    result = service_grader_relevance(hizmet_listesi, question)
+    return result['binary_score']
 
-    print(chat_history)
-    for turn in chat_history:
-        user_message, ai_message = turn
-        prompt.append(HumanMessage(user_message))
-        prompt.append(AIMessage(ai_message))
+def chat_gpt_nofn(prompt=None, history=[], model=model, client=client):
+    
+    if prompt is None:
+        messages = history
+    else:
+        history.append({"role": "user", "content": f"{prompt}"})
+        messages = history
+
+    completion = client.chat.completions.create(
+    model=model,
+    messages=messages,
+)
+    return completion
+
+with open("tableofcontent.txt", "r") as file:
+    content = json.loads(file.read())
     
-    chat_history = InMemoryChatMessageHistory(messages=prompt)
-    memory = ConversationBufferMemory(chat_memory=chat_history, memory_key="history", input_key="question")
-    return memory
-
 liked_state = gr.State(None)
 last_interaction = gr.State(None)
 
 def chat(question, manual, history, liked):
     history = history or []
-    memory = format_chat_prompt(history)
-    manual_list = {"Toyota_Corolla_2024_TR": -8580416610875007536, 
-                   "Renault_Clio_2024_TR":-5514489544983735006, 
-                   "Fiat_Egea_2024_TR":-2026113796962100812}
+    conv = history.copy()
+    manual_list = {"Toyota_Corolla_2024_TR": -8580416610875007536}
     
-    collection_list = {"Toyota_Corolla_2024_TR": "TOYOTA_MANUAL_COLLECTION_EMBED3", 
-                    "Renault_Clio_2024_TR": "RENAULT_MANUAL_COLLECTION_EMBED3", 
-                    "Fiat_Egea_2024_TR": "FIAT_MANUAL_COLLECTION_EMBED3"}
+    collection_list = {"Toyota_Corolla_2024_TR": "TOYOTA_MANUAL_COLLECTION_EMBED3"}
     
     collection_name = collection_list[manual]
 
     db = obj_loader.load_from_database(embeddings=embeddings, collection_name=collection_name)
     
     CAR_ID = manual_list[manual]
-    wrapper = Wrappers(collection_name, client, embeddings, myLLM, db, CAR_ID, memory)
     
-    inputs = {"question": question, "iter_halucination": 0}
-    app = wrapper.lagchain_graph()
-
-    for output in app.stream(inputs):
-        for key, value in output.items():
-            pprint(f"Finished running: {key}:")
+    retriever = retriever_db(db, CAR_ID)
+
+    first_hop = f"""Soruyu cevaplarken:
+        1- Önce soruyu düşün.
+        2- Kullanıcının sorduğu sorunun konu başlıkları neler olabilir?  
+        3- Bu konu başlıkları kullanım kılavuzu içindekiler tablosu başlıkları ile alakalı mı?
+        4- Alakalı olabilecek tüm başlıkları türet.
+        Buna göre, aşağıda vereceğim kullanım kılavuzu içindekiler tablosu (başlıklar) bilgisini kullanarak bu içeriğe erişmek için uygun fonksiyonları üret.
+        
+        Eğer herhangi bir içeriğe ulaşamazsan, bunu belir ve sorunun cevabı hakkında yorum yapma.
+        Kullanım Kılavuzu İçindekiler Tablosu:
+        {content}
+
+        """
+    conv = [{"role": "system", "content": f"{first_hop}"}]
+    conv.append({"role": "system", "content": f"{first_hop}"})
+    first_hop_response = chat_gpt(prompt=f"Soru: {question}", history=conv, tools=retrieval_functions)
+    conv.append(first_hop_response.choices[-1].message)
+
+    path = "Toyota_Corolla_2024_TR_Structured"
+    i = 0
+    json_files = [file for file in os.listdir(path) if file.endswith('.json')]
+    function_contents = []
+    while(i < 2):
+        tool_calls = first_hop_response.choices[-1].message.tool_calls
+        if tool_calls:
+            for tool_call in tool_calls:
+                whole_content = []
+                function_name = tool_call.function.name
+                args = json.loads(tool_call.function.arguments)
+                print(f"Will call {function_name} with arguments {args}")
+            
+                if function_name == 'get_section_content':
+                    for json_file in json_files:
+                        try:
+                            file_path = os.path.join(path, json_file)
+                            addition = get_section_content(str(args['section_title']), str(args['sub_section_title']), str(args['sub_sub_section_title']), content_path=file_path)
+
+                            if addition == None:
+                                pass
+                            else:
+                                whole_content.append(addition)
+                                function_contents.append(addition)
+                        except:  
+                            pass 
+                conv.append({
+                    "tool_call_id": tool_call.id,
+                    "role": "tool",
+                    "name": function_name,
+                    "content": str(whole_content)
+                    })
+            first_hop_response = chat_gpt(prompt=None, history=conv, tools=retrieval_functions)
+        else:
+            conv.append(first_hop_response.choices[-1].message)
+            break
+        i += 1
+    documents = retriever.invoke(question)
+
+    if get_lead_result(question).lower() == 'yes':
+        lead = """ Cevabın sonunda, "Nasıl devam edeceğinizden emin değilseniz." ifadesiyle başlayarak, kullanıcılara hızlı ve uygun fiyatlı çözümler için OtoPratik mağazalarını ziyaret etmelerini teklif etmelisin."""
+        print('Lead: yes')
+    else:
+        lead = ''
+        print('Lead: no')
+        
+    prompt = f"""
+        Sen, yalnızca araba sorunları ve araç bilgilerine odaklanan, ARVI adında uzman bir asistansın. 
+        Amacın, araba sorunları, bakım, onarımlar, teknik özellikler ve diğer araçla ilgili konularla ilgili sorulara doğru, yardımcı ve net cevaplar vermektir.
+
+        Ayrıca, temel nezaket etkileşimlerine uygun ve kibar bir şekilde yanıt vermek için tasarlandın. İşte yönergeler:
+
+        1. Araba Sorunları ve Araç Bilgileri:
+
+            - Araba sorunları, teşhis, onarımlar, bakım ve araç teknik özellikleri ile ilgili soruları her zaman yanıtla.
+            - Kullanıcılara araba sorunlarını çözmelerine veya araçları hakkında daha fazla bilgi edinmelerine yardımcı olabilecek detaylı ve pratik tavsiyeler ver.
+        
+        2. Referanslar:
+
+            - Bir soruyu yanıtlarken, eğer aşağıdaki ya da sorunun içindeki içerikten faydalandıysan, cevabın sonunda içeriğin sayfa numarasını referans olarak ekle.
+            - Aynı referansı tekrar etme.
+
+        Her zaman "Yetkili Servis, Bakım" gibi ifadeler yerine yalnızca "OtoBakım Servisi" yazmalısın.
+
+        Lead: {lead} \n
+
+        Dokümanlarda ve sorunun içinde verilen tüm bilgilere dayanarak, aşağıdaki soruyu kısaca yanıtla: \n
+        Soru: {question} \n
+
+        Dokümanlar: {documents}
+        Kullanıcıya doğrudan cevap ver. \n
+        Yeni fonksiyon çağırma. \n
+        Soru çok genel ise, spesifik bilgi iste. \n
+        Eğer sorunun cevabına ulaşamadıysan, bu soruya cevap veremeyeceğini belirt.
+        Kesinlikle cevaplar üzerine yorum yapma ve bilgi dağarcığını kullanma
+        Referans verme örneği:
+            Ref-1: "Sayfa numarası"
+            Ref-2: "Sayfa numarası"
+            ...
+            """
+    final_response = chat_gpt_nofn(prompt=prompt, history=conv)
+    response = final_response.choices[-1].message.content
+    conv.append(final_response.choices[-1].message)
     
-    response = value["generation"]['text']
     history.append((question, response))
 
     # Store the last interaction without saving to the database yet
@@ -170,7 +337,7 @@ def save_last_interaction(feedback):
     if last_interaction.value:
         DatabaseOperations.save_user_history_demo(
             client,
-            "USER_COLLECTION_EMBED3",
+            "USER_COLLECTION_EMBED3_v2",
             last_interaction.value["question"],
             last_interaction.value["response"],
             embeddings,
@@ -180,7 +347,7 @@ def save_last_interaction(feedback):
         )
         last_interaction.value = None
 
-manual_list = ["Toyota_Corolla_2024_TR", "Renault_Clio_2024_TR", "Fiat_Egea_2024_TR"]
+manual_list = ["Toyota_Corolla_2024_TR"]
 
 with gr.Blocks() as demo:
     chatbot = gr.Chatbot(height=600)