File size: 2,157 Bytes
87ce80f d8ff437 87ce80f fab8ffe d8ff437 fab8ffe 87ce80f fab8ffe 1e5a891 fab8ffe 1e5a891 87ce80f 1e5a891 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 |
import gradio as gr
from gradio_client import Client, handle_file
# Moondream2 ve LLaMA API'lerine bağlanmak için Client'ları başlatıyoruz
moondream_client = Client("vikhyatk/moondream2")
llama_client = Client("goingyt/meta-llama-Llama-3.3-70B-Instruct")
# Sohbet geçmişini tutmak için bir değişken
history = []
# Resim açıklama fonksiyonu
def describe_image(image, user_message):
global history
# Resmi Moondream2 API'sine gönderiyoruz
result = moondream_client.predict(
img=handle_file(image),
prompt="Describe this image.",
api_name="/answer_question"
)
# Moondream2'den alınan açıklamayı sisteme dahil ediyoruz
description = result # Moondream2'nin cevabını alıyoruz
# LLaMA API'sine açıklamayı ve kullanıcının mesajını gönderiyoruz
history.append(("User", user_message))
history.append(("Assistant", description))
llama_result = llama_client.predict(
message=user_message,
history=history,
api_name="/chat"
)
# Sonucu döndürüyoruz
return description + "\n\nAssistant: " + llama_result
# Sohbet fonksiyonu, resim yüklenip yüklenmediğine göre yönlendirecek
def chat_or_image(image, user_message):
global history
# Resim yüklenmişse, önce açıklama alıp sonra LLaMA'ya gönderiyoruz
if image:
return describe_image(image, user_message)
else:
# Resim yoksa, direkt LLaMA'ya mesajı gönderiyoruz
history.append(("User", user_message))
llama_result = llama_client.predict(
message=user_message,
history=history,
api_name="/chat"
)
return llama_result
# Gradio arayüzü
demo = gr.Interface(
fn=chat_or_image, # Hem resim hem de metin için kullanılacak fonksiyon
inputs=[
gr.Image(type="filepath", label="Resim Yükle (isteğe bağlı)"), # Resim yükleme
gr.Textbox(label="Soru Sor ya da Konuş", placeholder="Soru sor...", lines=2) # Metin girişi
],
outputs="text", # Çıktı metin olarak dönecek
)
if __name__ == "__main__":
demo.launch()
|