Utilisez votre jeu de données annoté

Ask a Question Open In Colab Open In Studio Lab

Nous allons maintenant apprendre à exporter et à utiliser les données annotées que nous avons dans Argilla.

Charger le jeu de données

Tout d’abord, nous devons nous assurer que nous sommes connectés à notre instance Argilla comme dans les étapes précédentes :

import argilla as rg

HF_TOKEN = "..."  # uniquement pour les spaces privés

client = rg.Argilla(
    api_url="...",
    api_key="...",
    headers={"Authorization": f"Bearer {HF_TOKEN}"},  # uniquement pour les spaces privés
)

Nous allons maintenant charger le jeu de données avec lequel nous allons travailler :

dataset = client.datasets(name="ag_news")

Charger le jeu de données et appeler ses enregistrements avec dataset.records est suffisant pour commencer. Cependant, nous allons également apprendre à effectuer quelques opérations optionnelles, comme filtrer les enregistrements et exporter votre jeu de données vers le Hub d’Hugging Face.

Filtrer le jeu de données

Il arrive que l’on ne veuille utiliser que les enregistrements qui ont été effectués. Nous allons donc commencer par filtrer les enregistrements de notre jeu de données en fonction de leur statut :

status_filter = rg.Query(filter=rg.Filter([("status", "==", "completed")]))

filtered_records = dataset.records(status_filter)

⚠️ Notez que les enregistrements avec le statut completed (c’est à dire les enregistrements qui atteignent le minimum de réponses soumises configuré dans les paramètres de distribution des tâches) peuvent avoir plus d’une réponse et que chaque réponse peut avoir n’importe quel statut parmi submitted, draft ou discarded.

Pour en savoir plus sur le requêtage et le filtrage des enregistrements, consultez la documentation.

Exportation vers le Hub

Nous pouvons maintenant exporter nos annotations vers le Hub d’Hugging Face, afin de pouvoir les partager avec d’autres personnes. Pour ce faire, nous devrons convertir les enregistrements en un objet Dataset puis le pousser vers le Hub :

filtered_records.to_datasets().push_to_hub("argilla/ag_news_annotated")

Il est également possible d’exporter directement le jeu de données Argilla complet (y compris les enregistrements en attente) de la manière suivante :

dataset.to_hub(repo_id="argilla/ag_news_annotated")

C’est un choix intéressant au cas où d’autres personnes voudraient ouvrir le jeu de données dans leurs instances Argilla, car les paramètres sont automatiquement sauvegardés et ils peuvent simplement importer le jeu de données complet en utilisant une seule ligne de code :

dataset = rg.Dataset.from_hub(repo_id="argilla/ag_news_annotated")
< > Update on GitHub