metadata

license: other
license_name: topicnet
license_link: >-
  https://github.com/machine-intelligence-laboratory/TopicNet/blob/master/LICENSE.txt
configs:
  - config_name: bag-of-words
    default: true
    data_files:
      - split: train
        path: data/bow/postnauka.csv.gz
  - config_name: natural-order-of-words
    data_files:
      - split: train
        path: data/noow/postnauka.csv.gz

PostNauka

Измеряемые характеристики датасета:

D — число документов
<имя модальности> W — размер словаря данной модальности (количество уникальных токенов)
<имя модальности> len D — средняя длина документа в терминах этой модальности (количество слов)
<имя модальности> len D uniq — средняя длина документа в уникальных терминах этой модальности (количество уникальных слов)

	D	@title W	@title len D	@title len D uniq	@2gramm W	@2gramm len D	@2gramm len D uniq	@3gramm W	@3gramm len D	@3gramm len D uniq	@snippet W	@snippet len D	@snippet len D uniq	@word W	@word len D	@word len D uniq	@post_tag W	@post_tag len D	@post_tag len D uniq	@author W	@author len D	@author len D uniq
value	3404	13546	3.97944	3.98002	163289	47.9697	37.0029	5848	1.71798	1.30288	46033	13.5232	13.5256	1.43373e+06	421.189	254.58	18031	5.297	5.297	3685	1.08255	1.08255

Модальность @snippet — сырой необработанный текст, предназначенный для показа топ-документов.

Информация о длинах документов в расчёте на модальность:

	len_total@title	len_total@2gramm	len_total@3gramm	len_total@snippet	len_total@word	len_total@post_tag	len_total@author	len_uniq@title	len_uniq@2gramm	len_uniq@3gramm	len_uniq@snippet	len_uniq@word	len_uniq@post_tag	len_uniq@author
mean	3.98002	47.9697	1.71798	13.5244	421.189	5.297	1.08255	3.98002	37.0029	1.30288	13.5256	254.58	5.297	1.08255
std	2.21452	49.9748	3.07432	3.0559	482.422	2.01979	0.413483	2.21452	35.4885	1.81957	3.05377	249.288	2.01979	0.413483
min	1	0	0	5	3	1	0	1	0	0	5	3	1	0
25%	2	15	0	12	106	4	1	2	13	0	12	80	4	1
50%	3.5	33	1	13	294	5	1	3.5	27	1	13	197	5	1
75%	5	67	2	15	563	6	1	5	52	2	15	343	6	1
max	22	778	69	28	4892	18	4	22	444	27	28	2277	18	4

Существует "эталонная" тематическая модель на 19 + 1 (фоновую) тему. Информация о темах доступна для версии датасета с естественным порядком слов. (При этом в датасете типа "мешка слов" со сниппетами те же самые документы, что и в датасете с естественным порядком, но под другими именами — а информация о соответствии имён документов, увы, утеряна 🙃.)