Chargez votre jeu de données dans Argilla

Ask a Question

En fonction de la tâche NLP sur laquelle vous travaillez et du cas d’utilisation/votre application spécifique, vos données et la tâche d’annotation se présenteront différemment. Pour cette partie du cours, nous utiliserons un jeu de données collectant des actualités pour réaliser deux tâches : de la classification indiquant le thème de chaque texte et de la reconnaissannce d’entités nommées pour identifier les entités mentionnées.

Il est possible d’importer des jeux de données depuis le Hub en utilisant directement l’interface utilisateur Argilla, mais nous utiliserons le SDK pour apprendre à modifier les données si nécessaire.

Configurez votre jeu de données

La première étape consiste à se connecter à notre instance Argilla comme nous l’avons fait dans la section précédente :

import argilla as rg

HF_TOKEN = "..."  # uniquement pour les spaces privés

client = rg.Argilla(
    api_url="...",
    api_key="...",
    headers={"Authorization": f"Bearer {HF_TOKEN}"},  # uniquement pour les spaces privés
)

Nous pouvons maintenant réfléchir aux paramètres de notre jeu de données dans Argilla. Ceux-ci représentent la tâche d’annotation que nous allons effectuer sur nos données. Tout d’abord, nous pouvons charger le jeu de données depuis le Hub et inspecter ses caractéristiques, afin de nous assurer que nous le configurons correctement.

from datasets import load_dataset

data = load_dataset("SetFit/ag_news", split="train")
data.features

Voici les caractéristiques de notre jeu de données :

{'text': Value(dtype='string', id=None),
 'label': Value(dtype='int64', id=None),
 'label_text': Value(dtype='string', id=None)}

Il contient un text ainsi que des labels pour la tâche de classification. Nous les ajouterons à nos paramètres de jeu de données avec une question spans pour les entités nommées :

settings = rg.Settings(
    fields=[rg.TextField(name="text")],
    questions=[
        rg.LabelQuestion(
            name="label", title="Classifier le texte :", labels=data.unique("label_text")
        ),
        rg.SpanQuestion(
            name="entities",
            title="Surligner toutes les entités présentes dans le texte :",
            labels=["PERSON", "ORG", "LOC", "EVENT"],
            field="text",
        ),
    ],
)

Voyons un peu plus en détail ce que signifient ces paramètres. Tout d’abord, nous avons défini les champs, qui contiennent les informations que nous allons annoter. Dans ce cas, nous n’avons qu’un seul champ et il se présente sous la forme d’un texte, nous avons donc choisi un TextField.

Ensuite, nous définissons des questions qui représentent les tâches que nous voulons effectuer sur nos données :

Pour en savoir plus sur tous les types de champs et de questions disponibles et sur d’autres paramètres avancés, tels que les métadonnées et les vecteurs, consultez la documentation.

Charger le jeu de données

Maintenant que nous avons défini quelques paramètres, nous pouvons créer le jeu de données :

dataset = rg.Dataset(name="ag_news", settings=settings)

dataset.create()

Le jeu de données apparaît maintenant dans notre instance Argilla, mais vous verrez qu’il est vide :

Screenshot of the empty dataset.

Nous devons maintenant ajouter les enregistrements que nous allons annoter, c’est-à-dire les lignes de notre jeu de données. Pour ce faire, nous devons simplement saisir les données en tant qu’enregistrements et fournir une correspondance pour les éléments qui n’ont pas le même nom dans les jeux de données du Hub et d’Argilla :

dataset.records.log(data, mapping={"label_text": "label"})

Dans notre correspondance, nous avons spécifié que la colonne label_text dans le jeu de données devrait être associée à la question avec le nom label. De cette façon, nous utiliserons les étiquettes existantes dans le jeu de données comme pré-annotations afin de pouvoir annoter plus rapidement.

Pendant que les enregistrements continuent à être consignés, vous pouvez déjà commencer à travailler avec votre jeu de données dans l’interface utilisateur d’Argilla. A ce stade, cela devrait ressembler à ceci :

Screenshot of the dataset in Argilla.

Notre jeu de données est maintenant prêt à être annoté !

< > Update on GitHub