RTL-Wiki / README.md
Alvant
add info in readme
1370356
|
raw
history blame
4.35 kB
metadata
license: other
license_name: topicnet
license_link: >-
  https://github.com/machine-intelligence-laboratory/TopicNet/blob/master/LICENSE.txt
configs:
  - config_name: rtl-wiki
    default: true
    data_files:
      - split: train
        path: data/RTL_Wiki.csv.gz
  - config_name: rtl-wiki-person
    data_files:
      - split: train
        path: data/RTL_Wiki_person.csv.gz

RTL-Wiki

Измеряемые характеристики датасета:

  • D — число документов
  • <имя модальности> W — размер словаря данной модальности (количество уникальных токенов)
  • <имя модальности> len D — средняя длина документа в терминах этой модальности (количество слов)
  • <имя модальности> len D uniq — средняя длина документа в уникальных терминах этой модальности (количество уникальных слов)
D @lemmatized W @lemmatized len D @lemmatized len D uniq @bigram W @bigram len D @bigram len D uniq
value 7838 1.28065e+07 1633.9 691.157 503619 64.2535 30.8372

Информация о длинах документов в расчёте на модальность:

len_total@lemmatized len_total@bigram len_uniq@lemmatized len_uniq@bigram
mean 1633.9 64.2535 691.157 30.8372
std 1565.19 73.1737 521.463 28.071
min 2 0 2 0
25% 500 18 283 11
50% 1115.5 41 554 22
75% 2233.5 85 961 42
max 15851 1098 4184 283

RTL_Wiki_person

Версия датасета, отфильтрованная по персоналиям, содержащая только 1201 документ.

Измеряемые характеристики датасета:

D @lemmatized W @lemmatized len D @lemmatized len D uniq @bigram W @bigram len D @bigram len D uniq
value 1201 1.92167e+06 1600.06 729.93 371430 309.267 196.595

Информация о длинах документов в расчёте на модальность:

len_total@lemmatized len_total@bigram len_uniq@lemmatized len_uniq@bigram
mean 1600.06 309.267 729.93 196.595
std 1569.31 323.991 541.153 170.06
min 73 4 60 4
25% 484 90 305 70
50% 1036 206 575 147
75% 2117 403 1007 268
max 11661 3212 3108 1216