Update app.py

app.py

@@ -1,29 +1,25 @@
+import os
 import gradio as gr
-from transformers import AutoTokenizer, AutoModelForCausalLM
+from huggingface_hub import InferenceClient
 
-# Carregar o modelo e o tokenizador
-tokenizer = AutoTokenizer.from_pretrained("defog/sqlcoder")
-model = AutoModelForCausalLM.from_pretrained("defog/sqlcoder")
+# Acessar a chave de API do secret
+API_TOKEN = os.environ.get("HF_TOKEN")
+
+# Inicialize o InferenceClient
+client = InferenceClient(model="defog/sqlcoder", token=API_TOKEN)
 
 # Função para gerar SQL a partir de linguagem natural
 def gerar_sql(consulta_natural):
-    # Tokenizar a consulta em linguagem natural
-    inputs = tokenizer(consulta_natural, return_tensors="pt", max_length=512, truncation=True)
-    
-    # Gerar a consulta SQL
-    outputs = model.generate(**inputs, max_length=512)
-    
-    # Decodificar a saída para texto
-    sql_gerado = tokenizer.decode(outputs[0], skip_special_tokens=True)
-    
-    return sql_gerado
+    # Envia a consulta para a API
+    resposta = client.text_generation(prompt=consulta_natural, max_new_tokens=100)
+    return resposta
 
 # Interface Gradio
 interface = gr.Interface(
     fn=gerar_sql,
     inputs="text",
     outputs="text",
-    title="Gerador de SQL com SQLCoder",
+    title="Gerador de SQL",
     description="Digite uma consulta em linguagem natural e gere a consulta SQL correspondente."
 )