metadata
license: other
license_name: topicnet
license_link: >-
https://github.com/machine-intelligence-laboratory/TopicNet/blob/master/LICENSE.txt
configs:
- config_name: rtl-wiki
default: true
data_files:
- split: train
path: data/RTL_Wiki.csv.gz
- config_name: rtl-wiki-person
data_files:
- split: train
path: data/RTL_Wiki_person.csv.gz
RTL-Wiki
Измеряемые характеристики датасета:
- D — число документов
- <имя модальности> W — размер словаря данной модальности (количество уникальных токенов)
- <имя модальности> len D — средняя длина документа в терминах этой модальности (количество слов)
- <имя модальности> len D uniq — средняя длина документа в уникальных терминах этой модальности (количество уникальных слов)
D | @lemmatized W | @lemmatized len D | @lemmatized len D uniq | @bigram W | @bigram len D | @bigram len D uniq | |
---|---|---|---|---|---|---|---|
value | 7838 | 1.28065e+07 | 1633.9 | 691.157 | 503619 | 64.2535 | 30.8372 |
Информация о длинах документов в расчёте на модальность:
len_total@lemmatized | len_total@bigram | len_uniq@lemmatized | len_uniq@bigram | |
---|---|---|---|---|
mean | 1633.9 | 64.2535 | 691.157 | 30.8372 |
std | 1565.19 | 73.1737 | 521.463 | 28.071 |
min | 2 | 0 | 2 | 0 |
25% | 500 | 18 | 283 | 11 |
50% | 1115.5 | 41 | 554 | 22 |
75% | 2233.5 | 85 | 961 | 42 |
max | 15851 | 1098 | 4184 | 283 |
RTL_Wiki_person
Версия датасета, отфильтрованная по персоналиям, содержащая только 1201 документ.
Измеряемые характеристики датасета:
D | @lemmatized W | @lemmatized len D | @lemmatized len D uniq | @bigram W | @bigram len D | @bigram len D uniq | |
---|---|---|---|---|---|---|---|
value | 1201 | 1.92167e+06 | 1600.06 | 729.93 | 371430 | 309.267 | 196.595 |
Информация о длинах документов в расчёте на модальность:
len_total@lemmatized | len_total@bigram | len_uniq@lemmatized | len_uniq@bigram | |
---|---|---|---|---|
mean | 1600.06 | 309.267 | 729.93 | 196.595 |
std | 1569.31 | 323.991 | 541.153 | 170.06 |
min | 73 | 4 | 60 | 4 |
25% | 484 | 90 | 305 | 70 |
50% | 1036 | 206 | 575 | 147 |
75% | 2117 | 403 | 1007 | 268 |
max | 11661 | 3212 | 3108 | 1216 |