app.py

import gradio as gr

# Carregando o modelo da Hugging Face
model = gr.load("models/Qwen/Qwen2.5-Coder-32B-Instruct")

def generate_response(prompt):
    # Envia o prompt para o modelo carregado
    response = model(prompt)
    return response[0]['generated_text']

with gr.Blocks() as demo:
    # Título e Descrição
    gr.Markdown("# Qwen2.5-Coder Interface")
    gr.Markdown("### Um modelo avançado para geração de texto. Digite o prompt abaixo para obter uma resposta.")

    with gr.Row():
        with gr.Column(scale=2):
            # Caixa de entrada para o prompt
            input_text = gr.Textbox(lines=5, placeholder="Digite seu prompt aqui...", label="Entrada do Usuário")
        with gr.Column(scale=1):
            # Botão de Enviar
            submit_btn = gr.Button("Gerar Resposta")

    # Caixa de saída para exibir a resposta do modelo
    output_text = gr.Textbox(lines=10, label="Saída do Modelo", interactive=False)

    # Conexão do botão com a função
    submit_btn.click(generate_response, inputs=[input_text], outputs=[output_text])

demo.launch()