app.py

from transformers import pipeline, Conversation
import gradio as gr
import os

# Charger le modèle GPT de Hugging Face
model_id = "deepseek-ai/deepseek-llm-7b-chat"
pipe = pipeline("text-generation", model=model_id)

# Consigne que le modèle suivra pour chaque chat
system_message = "You are a helpful assistant that always responds in a friendly manner."

# Fonction pour générer une réponse à partir du message de l'utilisateur
def generate_response(user_message, history):
    # Ajouter le message système au début de l'historique des messages
    messages = [{"role": "system", "content": system_message}] + [{"role": "user", "content": user_message}]
    
    # Préparer les entrées pour le modèle
    conversation = Conversation()
    for message in messages:
        if message["role"] == "user":
            conversation.add_user_input(message["content"])
        else:
            conversation.append_response(message["content"])
    
    # Générer une réponse
    result = pipe(conversation)
    response = result[-1]['generated_text']
    
    # Mettre à jour l'historique
    history.append((user_message, response))
    return history, response

# Configurer et lancer l'interface de chat avec Gradio
iface = gr.Interface(
    fn=generate_response,
    inputs=["text", "state"],
    outputs=["state", "text"],
    live=True,
)

iface.launch()