Update app.py

app.py

@@ -11,8 +11,8 @@ from llama_index.vector_stores.chroma import ChromaVectorStore
 
 import chromadb
 import re
-from llama_index.llms.gemini import Gemini
-from llama_index.embeddings.gemini import GeminiEmbedding
+from llama_index.llms.cohere import Cohere
+from llama_index.embeddings.cohere import CohereEmbedding
 
 from llama_index.core import PromptTemplate
 from llama_index.core.llms import ChatMessage
@@ -20,16 +20,23 @@ import gradio as gr
 import uuid
 
 api_key = os.environ.get("API_KEY")
+base_url = os.environ.get("BASE_URL")
 
-llm = Gemini(api_key=api_key, model_name="models/gemini-1.5-flash-latest")
-gemini_embedding_model = GeminiEmbedding(api_key=api_key, model_name="models/text-embedding-004")
+llm = Cohere(
+    api_key=api_key, 
+    model_name="command")
+embedding_model = CohereEmbedding(
+    api_key=api_key, 
+    model_name="embed-multilingual-v3.0",
+    input_type="search_query",
+    embedding_type="int8",)
 
 
 
 
 # Set Global settings
 Settings.llm = llm
-Settings.embed_model = gemini_embedding_model
+Settings.embed_model = embedding_model
 
 db_path=""