Spaces:
Runtime error
Runtime error
File size: 1,171 Bytes
ce10f9a 5b4c169 07fca4f 4ffc5f1 ce10f9a 07fca4f d43b4cf 07fca4f ce10f9a 604d57b ce10f9a |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 |
import torch
import os
import requests
import spaces
api_token = os.environ.get("TOKEN")
API_URL = "https://api-inference.huggingface.co/models/meta-llama/Meta-Llama-3-8B-Instruct"
headers = {"Authorization": f"Bearer {api_token}"}
@spaces.GPU
def query(payload):
response = requests.post(API_URL, headers=headers, json=payload)
return response.json()
output = query({
"inputs": " test ",
})
def analyze_sentiment(text):
# Construire le prompt
prompt = f"""Tu es un analyseur de sentiment. Ton rôle est d'évaluer le sentiment général du texte fourni. Réponds uniquement par 'positif' ou 'négatif'. N'ajoute aucune explication. Voici le texte à analyser :
{text}
Sentiment :"""
# Tokenizer le prompt
inputs = prompt
# Générer la réponse
with torch.no_grad():
outputs = headers.generate(
**inputs,
max_new_tokens=1,
num_return_sequences=1,
temperature=0.1,
top_p=0.9, # Ajuster le top_p pour contrôler la diversité
)
# Décoder et retourner la réponse
response = outputs[0]
return response.split("Sentiment :")[-1].strip()
|