diff --git "a/preprocessing/MKB-obtain.ipynb" "b/preprocessing/MKB-obtain.ipynb" new file mode 100644--- /dev/null +++ "b/preprocessing/MKB-obtain.ipynb" @@ -0,0 +1,2429 @@ +{ + "cells": [ + { + "cell_type": "markdown", + "metadata": {}, + "source": [ + "## Data description\n", + "ICD-10 is the 10th revision of the International Statistical Classification of Diseases and Related Health Problems (ICD), a medical classification list by the World Health Organization (WHO). It contains codes for diseases, signs and symptoms, abnormal findings, complaints, social circumstances, and external causes of injury or diseases. Work on ICD-10 began in 1983, became endorsed by the Forty-third World Health Assembly in 1990, and was first used by member states in 1994." + ] + }, + { + "cell_type": "code", + "execution_count": 6, + "metadata": {}, + "outputs": [ + { + "name": "stdout", + "output_type": "stream", + "text": [ + "[nltk_data] Downloading package punkt to /home/vbulatov/nltk_data...\n", + "[nltk_data] Package punkt is already up-to-date!\n", + "[nltk_data] Downloading package stopwords to\n", + "[nltk_data] /home/vbulatov/nltk_data...\n", + "[nltk_data] Package stopwords is already up-to-date!\n" + ] + } + ], + "source": [ + "import os\n", + "import json\n", + "import re\n", + "from os.path import join\n", + "import pandas as pd\n", + "import numpy as np\n", + "\n", + "from string import punctuation\n", + "from nltk.stem.snowball import RussianStemmer, SnowballStemmer\n", + "from nltk.tokenize import word_tokenize\n", + "from nltk.corpus import stopwords\n", + "import nltk\n", + "nltk.download('punkt')\n", + "nltk.download('stopwords')\n", + "from sklearn.feature_extraction.text import TfidfVectorizer, CountVectorizer, HashingVectorizer\n", + "from sklearn.model_selection import train_test_split, cross_val_score\n", + "from sklearn.linear_model import LogisticRegression\n", + "from sklearn.preprocessing import LabelEncoder, OneHotEncoder\n", + "from sklearn import metrics\n", + "from sklearn.metrics import classification_report, accuracy_score\n", + "\n", + "from sklearn.model_selection import StratifiedKFold, train_test_split\n", + "from sklearn.svm import SVC\n", + "import itertools\n", + "from sklearn.metrics import confusion_matrix\n", + "import matplotlib.pyplot as plt\n", + "from matplotlib.pyplot import figure\n", + "from time import time\n", + "\n", + "from sklearn.datasets import fetch_20newsgroups\n", + "from sklearn.ensemble import RandomForestClassifier\n", + "%matplotlib inline\n", + "\n", + "import glob, os\n", + "import artm\n", + "from artm import score_tracker\n" + ] + }, + { + "cell_type": "code", + "execution_count": 7, + "metadata": {}, + "outputs": [], + "source": [ + "from bs4 import BeautifulSoup\n", + "from collections import Counter\n", + "import numpy as np\n", + "import pandas as pd\n", + "\n", + "import lxml\n", + "import re\n", + "from tqdm import tqdm\n", + "import requests\n", + "\n", + "main_link = 'https://ru.wikipedia.org'\n" + ] + }, + { + "cell_type": "code", + "execution_count": 46, + "metadata": {}, + "outputs": [ + { + "name": "stdout", + "output_type": "stream", + "text": [ + "/w/index.php?title=Категория:Синдромы_по_алфавиту&pagefrom=АЭРОФАГИЯ\n", + "Аэрофагия#mw-pages\n", + "/w/index.php?title=Категория:Синдромы_по_алфавиту&pagefrom=ГАСТРОИНТЕСТИНАЛЬНАЯ+СТРОМАЛЬНАЯ+ОПУХОЛЬ\n", + "Гастроинтестинальная+стромальная+опухоль#mw-pages\n", + "/w/index.php?title=Категория:Синдромы_по_алфавиту&pagefrom=ДЕФЕКТ+МЕЖПРЕДСЕРДНОЙ+ПЕРЕГОРОДКИ\n", + "Дефект+межпредсердной+перегородки#mw-pages\n", + "/w/index.php?title=Категория:Синдромы_по_алфавиту&pagefrom=КИСТА+ЯИЧНИКА\n", + "Киста+яичника#mw-pages\n", + "/w/index.php?title=Категория:Синдромы_по_алфавиту&pagefrom=МЕНИНГОЭНЦЕФАЛИТ\n", + "Менингоэнцефалит#mw-pages\n", + "/w/index.php?title=Категория:Синдромы_по_алфавиту&pagefrom=ОРНИТОЗ\n", + "Орнитоз#mw-pages\n", + "/w/index.php?title=Категория:Синдромы_по_алфавиту&pagefrom=ПОЗДНЯЯ+ДИСТОНИЯ\n", + "Поздняя+дистония#mw-pages\n", + "/w/index.php?title=Категория:Синдромы_по_алфавиту&pagefrom=СЕКСУАЛЬНЫЕ+ДИСФУНКЦИИ\n", + "Сексуальные+дисфункции#mw-pages\n", + "/w/index.php?title=Категория:Синдромы_по_алфавиту&pagefrom=УДУШЬЕ+ДЫМОМ\n", + "Удушье+дымом#mw-pages\n", + "/w/index.php?title=Категория:Синдромы_по_алфавиту&pagefrom=ЭХИНОКОККОЗ\n", + "Эхинококкоз#mw-pages\n", + "None\n" + ] + } + ], + "source": [ + "\n", + "from urllib.parse import unquote\n", + "\n", + "\n", + "def grab_all_links(soup):\n", + " contents = soup.find(\"div\", class_=\"mw-category\")\n", + " return {\n", + " entry.text: entry.find(\"a\").get('href')\n", + " for entry in contents.findAll(\"li\")\n", + " }\n", + "\n", + "def next_page(soup):\n", + " items = soup.findAll(\"a\")\n", + " for item in items:\n", + " if item.text == \"Следующая страница\":\n", + " return item.get('href')\n", + " return None\n", + "\n", + "links = {}\n", + "current_url = '/wiki/Категория:Синдромы_по_алфавиту'\n", + "while current_url is not None:\n", + " page_text = requests.get(main_link + current_url).text\n", + " soup = BeautifulSoup(page_text, 'lxml')\n", + " links.update(grab_all_links(soup))\n", + "\n", + " current_url = next_page(soup)\n", + " print(unquote(str(current_url)))\n", + "\n" + ] + }, + { + "cell_type": "code", + "execution_count": 190, + "metadata": { + "scrolled": true + }, + "outputs": [ + { + "name": "stderr", + "output_type": "stream", + "text": [ + "100%|██████████| 2036/2036 [24:49<00:00, 1.37it/s]\n" + ] + } + ], + "source": [ + "classes = []\n", + "categories = []\n", + "titles = []\n", + "texts = []\n", + "english_equivalents = []\n", + "\n", + "def find_class_in_table(table):\n", + " if not table:\n", + " return None\n", + " for table_row in table.findAll(\"tr\"):\n", + " for entry in table_row.findAll(\"a\"):\n", + " if entry.get(\"title\") == \"МКБ-10\":\n", + " other_value = table_row.find(\"td\")\n", + " return ''.join(other_value.findAll(text=True)).strip()\n", + "\n", + " \n", + "for title, link in tqdm(links.items()):\n", + " soup = BeautifulSoup(requests.get(main_link+link).text, 'lxml')\n", + " cl_name = None\n", + " all_paragraphs = soup.findAll('p')\n", + " page_text = ''.join(par.text for par in all_paragraphs)\n", + "\n", + " table = soup.findAll('table', attrs={\"data-name\": \"Болезнь\"})\n", + " if table:\n", + " cl_name = find_class_in_table(table[0])\n", + " catlinks = soup.findAll('div', attrs={\"id\": \"mw-normal-catlinks\"})[0]\n", + " catnames = [entry.text for entry in catlinks.findAll(\"a\")[1:]]\n", + " interwiki = soup.findAll('li', attrs={\"class\": \"interwiki-en\"})\n", + " if interwiki:\n", + " english_equivalents.append(interwiki[0].findAll(\"a\")[0].get(\"href\"))\n", + " else:\n", + " english_equivalents.append(None)\n", + "\n", + " \n", + " classes.append(cl_name)\n", + " titles.append(title)\n", + " texts.append(page_text)\n", + " categories.append(catnames)\n" + ] + }, + { + "cell_type": "code", + "execution_count": null, + "metadata": {}, + "outputs": [], + "source": [] + }, + { + "cell_type": "code", + "execution_count": null, + "metadata": {}, + "outputs": [], + "source": [] + }, + { + "cell_type": "code", + "execution_count": 191, + "metadata": {}, + "outputs": [], + "source": [ + "df = pd.DataFrame({'class':classes, 'title':titles, 'text':texts, \"english\": english_equivalents, \"categories\": categories})" + ] + }, + { + "cell_type": "code", + "execution_count": null, + "metadata": {}, + "outputs": [], + "source": [] + }, + { + "cell_type": "code", + "execution_count": 192, + "metadata": {}, + "outputs": [], + "source": [ + "df['class_letter'] = df['class'].str[:1]" + ] + }, + { + "cell_type": "code", + "execution_count": 193, + "metadata": {}, + "outputs": [], + "source": [ + "cnts = df.class_letter.value_counts()\n", + "bad_letters = cnts[cnts < 5].index" + ] + }, + { + "cell_type": "code", + "execution_count": 194, + "metadata": {}, + "outputs": [ + { + "data": { + "text/html": [ + "
\n", + "\n", + "\n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + "
classtitletextenglishcategoriesclass_letter
345Y9595.Внутрибольничные инфекцииВнутрибольничные инфекции (также госпитальные,...https://en.wikipedia.org/wiki/Hospital-acquire...[Синдромы по алфавиту, Инфекционные заболевания]Y
589W57ДерматофилиазыДерматофилиазы (лат. Dermatophiliases) — энтом...https://en.wikipedia.org/wiki/Pulicosis[Синдромы по алфавиту, Энтомозы]W
591Проявление дермографизма в виде кода медицинск...ДермографизмДермографи́зм (от др.-греч. δέρμα — кожа, γράφ...https://en.wikipedia.org/wiki/Dermatographic_u...[Синдромы по алфавиту, Дерматология]П
612†E1010., F50.250.2ДиабулимияДиабулими́я (сочетанное заболевание диабета и ...https://en.wikipedia.org/wiki/Diabulimia[Синдромы по алфавиту, Психотические расстройс...†
626В некоторых странах относят к K6363. («другие ...ДисбактериозДисбактерио́з (также дисбио́з) (от др.-греч. δ...None[Синдромы по алфавиту, Гастроэнтерология]В
670М40 - М54ДорсопатияДорсопатия (лат. dorsum «спина» + др.-греч. πά...https://en.wikipedia.org/wiki/Dorsopathy[Синдромы по алфавиту]М
1269Xxx.x{{{2}}}{{{2}}}.Падение (несчастный случай)Паде́ние — «непреднамеренный приход в состояни...https://en.wikipedia.org/wiki/Falling_(accident)[Синдромы по алфавиту, Охрана труда, Происшест...X
1398Z3333.Подростковая беременностьПодростко́вая бере́менность подразумевает бере...https://en.wikipedia.org/wiki/Teenage_pregnancy[Синдромы по алфавиту, Детская и подростковая ...Z
1452А81.281.2.Прогрессирующая мультифокальная лейкоэнцефалоп...Прогрессивная мультифокальная лейкоэнцефалопат...https://en.wikipedia.org/wiki/Progressive_mult...[Синдромы по алфавиту, Вирусные заболевания, В...А
1479Код F (Класс V)Психическое расстройствоПсихи́ческое расстро́йство (мента́льное расстр...https://en.wikipedia.org/wiki/Mental_disorder[Синдромы по алфавиту, Психические расстройства]К
1491W57ПуликозПуликоз (лат. pulicosis) — энтомоз, поражение ...None[Синдромы по алфавиту, Энтомозы, Блохи]W
1603.mw-parser-output .ts-comment-commentedText{bo...Сенестопатическая шизофренияСенестопати́ческая шизофрени́я (от coenästheti...None[Синдромы по алфавиту, Формы шизофрении].
1671xxx.xxx.xСиндром Смит-МагенисСиндром Смит-Магенис (СМС) — наследственное за...https://en.wikipedia.org/wiki/Smith%E2%80%93Ma...[Синдромы по алфавиту, Генные болезни, Хромосо...x
1808W57, X21-X25Укусы членистоногихУкусы членистоногих — нападение членистоногих ...https://en.wikipedia.org/wiki/Arthropod_bites_...[Синдромы по алфавиту, Арахноэнтомозы]W
\n", + "
" + ], + "text/plain": [ + " class \\\n", + "345 Y9595. \n", + "589 W57 \n", + "591 Проявление дермографизма в виде кода медицинск... \n", + "612 †E1010., F50.250.2 \n", + "626 В некоторых странах относят к K6363. («другие ... \n", + "670 М40 - М54 \n", + "1269 Xxx.x{{{2}}}{{{2}}}. \n", + "1398 Z3333. \n", + "1452 А81.281.2. \n", + "1479 Код F (Класс V) \n", + "1491 W57 \n", + "1603 .mw-parser-output .ts-comment-commentedText{bo... \n", + "1671 xxx.xxx.x \n", + "1808 W57, X21-X25 \n", + "\n", + " title \\\n", + "345 Внутрибольничные инфекции \n", + "589 Дерматофилиазы \n", + "591 Дермографизм \n", + "612 Диабулимия \n", + "626 Дисбактериоз \n", + "670 Дорсопатия \n", + "1269 Падение (несчастный случай) \n", + "1398 Подростковая беременность \n", + "1452 Прогрессирующая мультифокальная лейкоэнцефалоп... \n", + "1479 Психическое расстройство \n", + "1491 Пуликоз \n", + "1603 Сенестопатическая шизофрения \n", + "1671 Синдром Смит-Магенис \n", + "1808 Укусы членистоногих \n", + "\n", + " text \\\n", + "345 Внутрибольничные инфекции (также госпитальные,... \n", + "589 Дерматофилиазы (лат. Dermatophiliases) — энтом... \n", + "591 Де��мографи́зм (от др.-греч. δέρμα — кожа, γράφ... \n", + "612 Диабулими́я (сочетанное заболевание диабета и ... \n", + "626 Дисбактерио́з (также дисбио́з) (от др.-греч. δ... \n", + "670 Дорсопатия (лат. dorsum «спина» + др.-греч. πά... \n", + "1269 Паде́ние — «непреднамеренный приход в состояни... \n", + "1398 Подростко́вая бере́менность подразумевает бере... \n", + "1452 Прогрессивная мультифокальная лейкоэнцефалопат... \n", + "1479 Психи́ческое расстро́йство (мента́льное расстр... \n", + "1491 Пуликоз (лат. pulicosis) — энтомоз, поражение ... \n", + "1603 Сенестопати́ческая шизофрени́я (от coenästheti... \n", + "1671 Синдром Смит-Магенис (СМС) — наследственное за... \n", + "1808 Укусы членистоногих — нападение членистоногих ... \n", + "\n", + " english \\\n", + "345 https://en.wikipedia.org/wiki/Hospital-acquire... \n", + "589 https://en.wikipedia.org/wiki/Pulicosis \n", + "591 https://en.wikipedia.org/wiki/Dermatographic_u... \n", + "612 https://en.wikipedia.org/wiki/Diabulimia \n", + "626 None \n", + "670 https://en.wikipedia.org/wiki/Dorsopathy \n", + "1269 https://en.wikipedia.org/wiki/Falling_(accident) \n", + "1398 https://en.wikipedia.org/wiki/Teenage_pregnancy \n", + "1452 https://en.wikipedia.org/wiki/Progressive_mult... \n", + "1479 https://en.wikipedia.org/wiki/Mental_disorder \n", + "1491 None \n", + "1603 None \n", + "1671 https://en.wikipedia.org/wiki/Smith%E2%80%93Ma... \n", + "1808 https://en.wikipedia.org/wiki/Arthropod_bites_... \n", + "\n", + " categories class_letter \n", + "345 [Синдромы по алфавиту, Инфекционные заболевания] Y \n", + "589 [Синдромы по алфавиту, Энтомозы] W \n", + "591 [Синдромы по алфавиту, Дерматология] П \n", + "612 [Синдромы по алфавиту, Психотические расстройс... † \n", + "626 [Синдромы по алфавиту, Гастроэнтерология] В \n", + "670 [Синдромы по алфавиту] М \n", + "1269 [Синдромы по алфавиту, Охрана труда, Происшест... X \n", + "1398 [Синдромы по алфавиту, Детская и подростковая ... Z \n", + "1452 [Синдромы по алфавиту, Вирусные заболевания, В... А \n", + "1479 [Синдромы по алфавиту, Психические расстройства] К \n", + "1491 [Синдромы по алфавиту, Энтомозы, Блохи] W \n", + "1603 [Синдромы по алфавиту, Формы шизофрении] . \n", + "1671 [Синдромы по алфавиту, Генные болезни, Хромосо... x \n", + "1808 [Синдромы по алфавиту, Арахноэнтомозы] W " + ] + }, + "execution_count": 194, + "metadata": {}, + "output_type": "execute_result" + } + ], + "source": [ + "df.query('class_letter in @bad_letters')" + ] + }, + { + "cell_type": "code", + "execution_count": 200, + "metadata": {}, + "outputs": [], + "source": [ + "def set_fixed_class(df, title, fixed):\n", + " idx = df.query(\"title == @title\").index.values[0]\n", + " df.loc[idx, 'class'] = fixed" + ] + }, + { + "cell_type": "code", + "execution_count": 202, + "metadata": {}, + "outputs": [], + "source": [ + "set_fixed_class(df, \"Дермографизм\", 'L50.3')\n", + "set_fixed_class(df, \"Диабулимия\", 'F50.2')\n", + "set_fixed_class(df, \"Дисбактериоз\", 'K63')\n", + "\n", + "set_fixed_class(df, \"Падение (несчастный случай)\", 'W00-W19')\n", + "set_fixed_class(df, \"Психическое расстройство\", 'F')\n", + "\n", + "set_fixed_class(df, \"Сенестопатическая шизофрения\", 'F20.8')\n", + "set_fixed_class(df, \"Синдром Смит-Магенис\", 'Q93.5')\n", + "set_fixed_class(df, 'Прогрессирующая мультифокальная лейкоэнцефалопатия', 'А81.281.2')\n", + "\n" + ] + }, + { + "cell_type": "code", + "execution_count": 205, + "metadata": {}, + "outputs": [], + "source": [ + "df.title = df.title.str.replace(\" \", \"_\")" + ] + }, + { + "cell_type": "code", + "execution_count": 203, + "metadata": {}, + "outputs": [], + "source": [ + "df.to_pickle(\"MKB10.pkl\")" + ] + }, + { + "cell_type": "code", + "execution_count": 3, + "metadata": {}, + "outputs": [], + "source": [ + "import pandas as pd\n", + "df = pd.read_pickle(\"MKB10.pkl\")\n" + ] + }, + { + "cell_type": "code", + "execution_count": 8, + "metadata": {}, + "outputs": [], + "source": [ + "\n", + "specSymb = {\"«\", \"»\", \"—\", \"“\", \"-\", \"№\"}\n", + "specSymb = punctuation + \"«»—“-№\"\n", + "pattern = re.compile(\"[\" + re.escape(specSymb) + \"]\")" + ] + }, + { + "cell_type": "code", + "execution_count": 9, + "metadata": {}, + "outputs": [ + { + "name": "stderr", + "output_type": "stream", + "text": [ + "/home/vbulatov/miniconda3/envs/py36/lib/python3.6/site-packages/numpy/core/fromnumeric.py:2957: RuntimeWarning: Mean of empty slice.\n", + " out=out, **kwargs)\n", + "/home/vbulatov/miniconda3/envs/py36/lib/python3.6/site-packages/numpy/core/_methods.py:80: RuntimeWarning: invalid value encountered in double_scalars\n", + " ret = ret.dtype.type(ret / rcount)\n" + ] + }, + { + "name": "stdout", + "output_type": "stream", + "text": [ + "JamSpell inited!\n" + ] + } + ], + "source": [ + "from clustering_system.handler.tasks import (\n", + " RU_DICT, KEY_MAP, LM_MODEL\n", + ")\n", + "\n", + "from clustering_system.preprocessing.preprocessing_models import (\n", + " MainModelPreprocessor\n", + ")\n", + "\n", + "from clustering_system.preprocessing.dataset_collector import (\n", + " ClientRepliesExtractor\n", + ")\n", + "\n", + "\n", + "preprocesser = MainModelPreprocessor(\n", + " ru_dictionary_path=RU_DICT, keyboard_map_path=KEY_MAP,\n", + " lm_model=LM_MODEL, n_jobs=8, verbose=True, log=None\n", + " )\n" + ] + }, + { + "cell_type": "code", + "execution_count": null, + "metadata": {}, + "outputs": [], + "source": [] + }, + { + "cell_type": "code", + "execution_count": 10, + "metadata": {}, + "outputs": [], + "source": [ + "import unicodedata\n", + "\n", + "def remove_accents(input_str):\n", + " nfkd_form = unicodedata.normalize('NFKD', input_str)\n", + " return u\"\".join([c for c in nfkd_form if not unicodedata.combining(c)])\n", + "\n", + "\n", + "def preprocess(text):\n", + " text = text.lower()\n", + " text = re.sub(pattern, '', text)\n", + " text = remove_accents(text)\n", + " return text" + ] + }, + { + "cell_type": "code", + "execution_count": null, + "metadata": {}, + "outputs": [ + { + "name": "stdout", + "output_type": "stream", + "text": [ + "Start of pipeline\n", + "**************************************************************************\n", + "\n", + "Start of replacer fit transform\n", + " Start of pipeline\n", + " **********************************************************************\n", + "\n", + " Start of html_tag_replacer fit transform\n", + " End of html_tag_replacer fit transform\n", + " Total time: 1.213378667831421\n", + " ------------------------------------------------------------------\n", + " Start of symbol_replacer fit transform\n", + " End of symbol_replacer fit transform\n", + " Total time: 0.011617422103881836\n", + " ------------------------------------------------------------------\n", + " Start of regions_tag_replacer fit transform\n", + " End of regions_tag_replacer fit transform\n", + " Total time: 11.2960844039917\n", + " ------------------------------------------------------------------\n", + " Start of towns_tag_replacer fit transform\n", + " End of towns_tag_replacer fit transform\n", + " Total time: 151.59716939926147\n", + " ------------------------------------------------------------------\n", + " Start of quot_replacer fit transform\n", + " End of quot_replacer fit transform\n", + " Total time: 0.02263617515563965\n", + " ------------------------------------------------------------------\n", + " Start of punctuation_merger fit transform\n", + " End of punctuation_merger fit transform\n", + " Total time: 3.4543581008911133\n", + " ------------------------------------------------------------------\n", + " Start of url_replacer fit transform\n", + " End of url_replacer fit transform\n", + " Total time: 0.06362128257751465\n", + " ------------------------------------------------------------------\n", + " Start of mail_replacer fit transform\n", + " End of mail_replacer fit transform\n", + " Total time: 0.7854549884796143\n", + " ------------------------------------------------------------------\n", + " Start of num_replacer fit transform\n", + " End of num_replacer fit transform\n", + " Total time: 0.6497204303741455\n", + " ------------------------------------------------------------------\n", + " Start of delete_additional_spaces fit transform\n", + " End of delete_additional_spaces fit transform\n", + " Total time: 0.11949563026428223\n", + " ------------------------------------------------------------------\n", + " End of pipeline\n", + " Total time: 169.21767616271973\n", + " ------------------------------------------------------------------\n", + " **********************************************************************\n", + "\n", + "End of replacer fit transform\n", + "Total time: 169.2182972431183\n", + "----------------------------------------------------------------------\n", + "Start of keyboard_correction fit transform\n", + "End of keyboard_correction fit transform\n", + "Total time: 2.604865312576294\n", + "----------------------------------------------------------------------\n", + "Start of spelling_error_correction fit transform\n", + "End of spelling_error_correction fit transform\n", + "Total time: 228.84465289115906\n", + "----------------------------------------------------------------------\n", + "Start of symbol_replacer fit transform\n", + "End of symbol_replacer fit transform\n", + "Total time: 0.00800180435180664\n", + "----------------------------------------------------------------------\n", + "Start of tokenization fit transform\n", + "End of tokenization fit transform\n", + "Total time: 24.707213401794434\n", + "----------------------------------------------------------------------\n", + "End of pipeline\n", + "Total time: 425.38538670539856\n", + "----------------------------------------------------------------------\n", + "**************************************************************************\n", + "\n", + "Start of pipeline\n", + "**************************************************************************\n", + "\n", + "Start of persons_replacer fit transform\n" + ] + } + ], + "source": [ + "\n", + "df2 = df.copy()\n", + "df2['is_client'] = 1\n", + "\n", + "# df2 = df.text\n", + "df2.index.rename(\"session_id\", inplace=True)\n", + "df2.text = df2[\"text\"].apply(preprocess)\n", + "df3 = df2[[\"text\", \"is_client\"]].reset_index()\n", + "\n", + "data_df = preprocesser.fit_transform(df3)\n", + "\n" + ] + }, + { + "cell_type": "code", + "execution_count": 230, + "metadata": {}, + "outputs": [ + { + "data": { + "text/html": [ + "
\n", + "\n", + "\n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + "
session_idtextis_clientraw_tokenizedraw_lemmatizedlemmatizedngrammsverb_ngrammstheme_ngrammsverb_lemmatizednoun_lemmatized
00бедная симптомами шизофрения подтип шизотипич...1бедная симптомами шизофрения подтип шизотипиче...бедный симптом шизофрения подтип шизотипически...бедный симптом шизофрения подтип шизотипически...бедный_симптом бедный_симптом бедный_симптом б...заболевание_нарастать нарастать_аутизм расстро...бедный_симптом бедный_симптом бедный_симптом б...считаться судить социальноить нарастать возник...бедный симптом шизофрения подтип шизотипически...
1146xx46xy тетрагаметныи химеризм это разновидн...100xx 00xy тетрагаметныи химеризм это разновидн...00xx 00xy <person> химеризм это разновидность ...<person> химеризм разновидность химеризм вызва...вызвать_наличие различный_клеточный клеточный_...вызвать_наличие возникать_внутриутробный не_сл...клеточный_популяция комбинация_зигота зигота_x...вызвать возникать превратиться не_следовать пу...химеризм разновидность химеризм наличие различ...
22синдром 48 xxxy это генетическое состояние об...1синдром 00 xxxy это генетическое состояние обу...синдром 00 xxxy это генетический состояние обу...синдром xxxy генетический состояние обусловить...генетический_состояние состояние_обусловить об...состояние_обусловить обусловить_<person> мужчи...генетический_состояние половый_хромосома полов...обусловить иметь функционировать вызывать опре...синдром генетический состояние половый хромосо...
33синдром 48 xxyy это аномалия хромосом при кот...1синдром 00 xxyy это аномалия хромосом при кото...синдром 00 xxyy это аномалия хромосома при <pe...синдром xxyy аномалия хромосома <person> челов...аномалия_хромосома человек_иметься иметься_доп...человек_иметься иметься_дополнительный женщина...аномалия_хромосома человек_обычно человек_обыч...иметься иметь иметь функционировать делать явл...синдром аномалия хромосома человек дополнитель...
44синдром 48 xyyy чрезвычаино редкая анеуплоидн...1синдром 00 xyyy чрезвычаино редкая анеуплоидна...синдром 00 xyyy чрезвычаин редкий анеуплоидный...синдром xyyy чрезвычаин редкий анеуплоидный по...чрезвычаин_редкий половый_хромосомный хромосом...случай_представлять представлять_собои мочь_на...чрезвычаин_редкий хромосомный_аномалия аномали...представлять характеризоваться легкоиуме��еннои...синдром чрезвычаин редкий анеуплоидный половый...
55синдром 49 xxxxy чрезвычаино редкая анеуплоид...1синдром 00 xxxxy чрезвычаино редкая анеуплоидн...синдром 00 xxxxy чрезвычаин редкий анеуплоидны...синдром xxxxy чрезвычаин редкий анеуплоидный п...чрезвычаин_редкий половый_хромосомный хромосом...синдром_являться являться_результат быть_диагн...чрезвычаин_редкий хромосомный_аномалия аномали...являться быть диагностировать быть назвать выр...синдром чрезвычаин редкий анеуплоидный половый...
66синдром 49 xxxyy чрезвычаино редкая анеуплоид...1синдром 00 xxxyy чрезвычаино редкая анеуплоидн...синдром 00 xxxyy чрезвычаин редкий анеуплоидны...синдром xxxyy чрезвычаин редкий анеуплоидный п...чрезвычаин_редкий половый_хромосомный хромосом...случай_представлять представлять_собои хромосо...чрезвычаин_редкий хромосомный_аномалия аномали...представлять характеризоваться наблюдаться наб...синдром чрезвычаин редкий анеуплоидный половый...
77синдром 49 xyyyy чрезвычаино редкая анеуплоид...1синдром 00 xyyyy чрезвычаино редкая анеуплоидн...синдром 00 xyyyy чрезвычаин редкий анеуплоидны...синдром xyyyy чрезвычаин редкий анеуплоидный п...чрезвычаин_редкий половый_хромосомный хромосом...случай_представлять представлять_собои основно...чрезвычаин_редкий хромосомный_аномалия аномали...представлять характеризоваться умственноить ум...синдром чрезвычаин редкий анеуплоидный половый...
88аббревиатоз abbreviatosis гельминтоз из групп...1аббревиатоз abbreviatosis гельминтоз из группы...аббревиатоз abbreviatosis гельминтоз из группа...аббревиатоз abbreviatosis гельминтоз группа не...группа_нематодоз нематодоз_<person> возбудител...самец_иметь иметь_размер человек_описать диагн...группа_нематодоз нематодоз_<person> возбудител...иметь описать паразитировать не_изучить ставитьаббревиатоз гельминтоз группа нематодоз возбуд...
99абсанс фр absence буквально отсутствие истори...1ба��анс фр absence буквально отсутствие историч...баланс фр absence буквально отсутствие историч...баланс фр absence буквально отсутствие историч...исторический_название название_<person> <perso...характерноить_особенность характерноить_особен...исторический_название название_<person> эпилеп...характерноить являться различноить проявляться...баланс отсутствие исторический название припад...
1010абсцесс лат abscessus нарыв гноиное воспален...1абсцесс лат abscessus нарыв гноиное воспаление...абсцесс лата abscessus нарыв <person> воспален...абсцесс лата abscessus нарыв <person> воспален...воспаление_<person> воспаление_<person> образо...мочь_развиться подкожноить_клетчатка мочь_возн...воспаление_<person> воспаление_<person> образо...развиться подкожноить возникать связать проявл...абсцесс лата нарыв воспаление расплавление обр...
1111абсцесс головного мозга очаговое скопление гн...1абсцесс головного мозга очаговое скопление гно...абсцесс головной мозг очаговый скопление гноит...абсцесс головной мозг очаговый скопление гноит...абсцесс_головной абсцесс_головной абсцесс_голо...скопление_гноить скопление_гноить заболевание_...абсцесс_головной абсцесс_головной абсцесс_голо...гноить вызывать существовать заключаться возни...абсцесс головной мозг очаговый скопление вещес...
1212абсцесс зуба инфекционныи процесс которыи обу...1абсцесс зуба инфекционныи процесс которыи обус...абсцесс зуб <person> процесс <person> обуслови...абсцесс зуб <person> процесс <person> обуслови...абсцесс_зуб абсцесс_зуб абсцесс_зуб абсцесс_зу...обусловить_<person> обусловить_скопление скопл...абсцесс_зуб абсцесс_зуб абсцесс_зуб абсцесс_зу...обусловить гноить альвеолярноить являться скап...абсцесс зуб процесс скопление поверхность альв...
1313абсцесс легкого абсцедирующая пневмония это гн...1абсцесс легкого абсцедирующая пневмония это гн...абсцесс легкое абсцедировать пневмония это <pe...абсцесс легкое абсцедировать пневмония <person...абсцесс_ле��кое абсцесс_легкое абсцесс_легкое а...легкое_характеризоваться легкое_характеризоват...абсцесс_легкое абсцесс_легкое абсцесс_легкое а...абсцедировать характеризоваться окружить периф...абсцесс легкое пневмония процесс легкое образо...
1414авитаминоз заболевание являющееся следствием ...1авитаминоз заболевание являющееся следствием д...авитаминоз заболевание являться следствие длит...авитаминоз заболевание являться следствие длит...заболевание_являться являться_следствие следст...заболевание_являться являться_следствие отсутс...следствие_длительный неполноценный_питание <pe...являться отсутствовать встречаться изучить явл...авитаминоз заболевание следствие длительный не...
1515синдром автопивоварни также синдром ферментаци...1синдром авто пивоварни также синдром ферментац...синдром авто пивоварня также синдром ферментац...синдром авто пивоварня синдром ферментация киш...редкий_заболевание пищеварительный_система кол...патоген_быть быть_идентифицировать исследовани...редкий_заболевание пищеварительный_система кол...образоваться опьянять быть идентифицировать по...синдром авто пивоварня синдром ферментация киш...
1616агалактия от греч а без не и галактос молоко ...1агалактия от греч а без не и галактос молоко п...агалактия от греча а без не и галактос молоко ...агалактия греча галактос молоко полный отсутст...полный_отсутствие отсутствие_молоко отсутствие...молоко_называться мочь_быть мочь_быть быть_пер...полный_отсутствие отсутствие_молоко отсутствие...называться быть первичноить вторичноить обусло...агалактия греча галактос молоко полный отсутст...
1717агенезия мозолистого тела амт редкии врожденн...1агенезия мозолистого тела амт редкии врожденны...агенезия мозолистый тело амт редкия <person> д...агенезия мозолистый тело амт редкия <person> д...мозолистый_тело мозолистый_тело мозолистый_тел...наблюдаться_полный мочь_быть мочь_быть мочь_бы...мозолистый_тело мозолистый_тело мозолистый_тел...наблюдаться быть обнаружить сочетаться нарушит...агенезия мозолистый тело редкия дефект врожден...
1818агорафобия от дргреч αγορα базар рынок φοβος ...1агорафобия от дргреч α γ ο ρ α базар рынок φ ο...агорафобия от дргреча α γ ο ρ α базар рынок φ ...агорафобия дргреча базар рынок страх боязнь от...страх_боязнь страх_боязнь боязнь_открытый откр...появляться_страх мочь_потребовать потребовать_...страх_боязнь страх_боязнь боязнь_открытый откр...появляться потребовать проявляться быть получи...агорафобия дргреча базар рынок боязнь открытый...
1919агранулоцитоз представляет собои патологическо...1агранулоцитоз представляет собои патологическо...агранулоцитоз представлять собои патологически...агранулоцитоз представлять собои патологически...агранулоцитоз_представлять представлять_собои ...агранулоцитоз_представлять представлять_собои ...патологический_состояние снижение_уровень уров...представлять наблюдаться повышаться выделять с...агранулоцитоз собои патологический состояние с...
2020аддисоническии криз гипоадреналовыи криз остра...1аддисоническии криз гипоадреналовыи криз остра...<person> криз гипоадреналовыя криз острый надп...<person> криз гипоадреналовыя криз острый надп...<person>_криз криз_острый острый_надпочечник н...состояние_проявляться проявляться_резкой иногд...<person>_криз криз_острый острый_надпочечник н...проявляться развиваться сопровождаться умеренн...криз гипоадреналовыя криз острый надпочечник н...
2121аденовирусная инфекция группа инфекционных за...1аденовирусная инфекция группа инфекционных заб...аденовирусный инфекция группа инфекционный заб...аденовирусный инфекция группа инфекционный заб...аденовирусный_инфекция аденовирусный_инфекция ...являться_аденовирус инфекция_орвать характериз...аденовирусный_инфекция аденовирусный_инфекция ...являться относиться орвать характеризоваться л...аденовирусный инфекция группа инфекционный заб...
2222аденокарцинoма дргреч αδην железа и дргреч κα...1аденокарцинoма дргреч α δ η ν железа и дргреч ...аденокарцинoм дргреча α δ η ν железо и дргреча...аденокарцинoм дргреча железо дргреча краб опух...злокачественный_опухоль злокачественный_опухол...опухоль_состоять поразить_клетка поразить_орга...злокачественный_опухоль злокачественный_опухол...состоять поразитьаденокарцинoм дргреча железо дргреча краб опух...
2323аденома лат adenoma от дргреч αδην железа ομα...1аденома лат adenoma от дргреч α δ η ν железа ο...аденома лата adenoma от дргреча α δ η ν железо...аденома лата adenoma дргреча железо опухоль до...доброкачественный_опухоль доброкачественный_оп...опухоль_происходить аденома_щитовидноить щитов...доброкачественный_опухоль доброкачественный_оп...происходить щитовидноить исходить встречаться ...аденома лата дргреча железо опухоль доброкачес...
2424аденомы гипофиза опухоли железистои ткани гип...1аденомы гипофиза опухоли железистой ткани гипо...аденома гипофиз опухоль железистый ткань гипоф...аденома гипофиз опухоль железистый ткань гипоф...аденома_гипофиз аденома_гипофиз аденома_гипофи...причина_оставаться гипофиз_занимать занимать_л...аденома_гипофиз аденома_гипофиз аденома_гипофи...развиваться оставаться отводиться занимать лид...аденома гипофиз опухоль железистый ткань гипоф...
2525аденома надпочечника собирательное понятие до...1аденома надпочечника собирательное понятие доб...аденома надпочечник собирательный понятие добр...аденома надпочечник собирательный понятие добр...аденома_надпочечник аденома_надпочечник аденом...продуцировать_гормон продуцировать_гормон прод...аденома_надпочечник аденома_надпочечник аденом...продуцировать различать синтезировать не_облад...аденома надпочечник собирательный понятие добр...
2626аденома паращитовиднои железы паратиреоаденома...1аденома паращитовиднои железы паратиреоаденома...аденома паращитовидноить железа паратиреоадено...аденома паращитовидноить железа паратиреоадено...аденома_паращитовидноить аденома_паращитовидно...аденома_паращитовидноить аденома_паращитовидно...железа_доброкачественный доброкачественный_нов...паращитовидноить околощитовидноить паращитовид...аденома железа паратиреоаденома аденома железа...
2727аденома сальных желез доброкачественная опухо...1аденома сальных желез доброкачественная опухол...аденома сальный железо доброкачественный опухо...аденома сальный железо доброкачественный опухо...аденома_сальный аденома_сальный аденома_сальны...характеризоваться_медленный обычно_выглядеть в...аденома_сальный аденома_сальный аденома_сальны...развиваться характеризоваться выглядеть не_име...аденома сальный железо доброкачественный опухо...
2828аденома щитовиднои железы лат adenoma glandula...1аденома щитовиднои железы лат adenoma glandula...аденома щитовидноить железа лата adenoma gland...аденома щитовидноить железа лата adenoma gland...аденома_щитовидноить аденома_щитовидноить аден...аденома_щитовидноить аденома_щитовидноить аден...доброкачественный_опухоль появление_узел папил...щитовидноить характеризоваться щитовидноить но...аденома железа лата доброкачественный опухоль ...
2929аденоматозные полипы или аденомы это истинные...1аденоматозные полипы или аденомы это истинные ...аденоматозный полип или аденома это истинный н...аденоматозный полип аденома истинный неоплазия...аденоматозный_полип аденоматозный_полип аденом...полип_считаться мочь_появиться неоплазия_не_яв...аденоматозный_полип аденоматозный_полип аденом...расти сопрячь считаться появиться не_являться ...аденоматозный полип аденома истинный неоплазия...
....................................
20062006язва роговицы или язвенныи кератит воспал...1язва роговицы или язвенныи кератит воспаленное...язва роговица или <person> кератит воспалить и...язва роговица <person> кератит воспалить серье...язва_роговица язва_роговица язва_роговица язва...распространить_явление особенно_жить ребенок_с...язва_роговица язва_роговица язва_роговица язва...воспалить затрагивать распространить жить стра...язва роговица кератит инфекционный состояние р...
20072007язвенныи колит или неспецифическии язвенныи ко...1язвенный колит или неспецифическии язвенный ко...язвенный колит или <person> язвенный колит няк...язвенный колит <person> язвенный колит няк хро...язвенный_колит язвенный_колит язвенный_колит я...характеризоваться_обострение есть_затрагивать ...язвенный_колит язвенный_колит язвенный_колит я...возникать характеризоваться обнаруживаться зат...язвенный колит язвенный колит хронический восп...
20082008японскии энцефалит летнеосеннии комариныи энце...1японских энцефалит летнеосеннии комариныи энце...японский энцефалит <person> <person> энцефалит...японский энцефалит <person> <person> энцефалит...японский_энцефалит японский_энцефалит японский...вызываться_инфекция являться_комар являться_ко...японский_энцефалит японский_энцефалит японский...вызываться являться характеризоваться являться...японский энцефалит энцефалит острый инфекционн...
20092009ячмень hordeolum острое гноиное воспаление во...1ячмень hordeolum острое гноиное воспаление вол...ячмень hordeolum острый <person> воспаление во...ячмень hordeolum острый <person> воспаление во...воспаление_<person> воспаление_<person> воспал...отечь_край ячмень_вызываться бактериальноить_<...воспаление_<person> воспаление_<person> воспал...располагаться существовать воспаляться отечь в...ячмень острый воспаление волосяной мешочек рес...
20102010ящур острое вирусное заболевание из группы зо...1ящур острое вирусное заболевание из группы зоо...ящур острый вирусный заболевание из группа зоо...ящур острый вирусный заболевание группа зооноз...острый_вирусный вирусный_заболевание <person>_...<person>_характеризоваться <person>_характериз...вирусный_заболевание поражение_слизистый пораж...характеризоваться являться составлять характер...ящур острый вирусный заболевание группа зооноз...
20112011birdshot хориоретинопатия является редкои фор...1birdshot хориоретинопатия является редкои форм...birdshot хориоретинопатия являться редкой форм...birdshot хориоретинопатия являться редкой форм...birdshot_хориоретинопатия birdshot_хориоретино...хориоретинопатия_являться хориоретинопатия_явл...birdshot_хориоретинопатия birdshot_хориоретино...являться вызывать прогрессировать быть диагнос...хориоретинопатия редкой формои двусторонний за...
20122012cadasil от англ cerebral autosomal dominant a...1cadasil от англ cerebral autosomal dominant ar...cadasil от англ cerebral autosomal dominant ar...cadasil англ cerebral autosomal dominant arter...церебральный_аутосомнодоминантный заболевание_...заболевание_вызвать вызвать_<person> <person>_...<person>_ген ишемической_атака ишемической_ата...вызвать характеризоваться транзиторноить возни...англ артериопатия церебральный аутосомнодомина...
20132013carcinoma in situ лат carcinoma in situ рак н...1carcinoma in situ лат carcinoma in situ рак на...carcinoma in situ лата carcinoma in situ рак н...carcinoma situ лата carcinoma situ рак место <...рак_<person> рак_<person> рак_<person> стадия_...являться_<person> являться_скопление гистологи...рак_<person> рак_<person> рак_<person> стадия_...являться изменить подлежать считаться находить...лата рак место рак рак рак стадия злокачествен...
20142014gm1ганглиозидозы редкие наследственные заболе...1gm 0ганглиозидозы редкие наследственные заболе...gm 0ганглиозидоз редкий наследственный заболев...gm редкий наследственный заболевание группа ли...редкий_наследственный наследственный_заболеван...картина_обусловить обусловить_дефект клетка_це...наследственный_заболевание группа_лизосомный л...обусловить вести центральноить характеризовать...редкий наследственный заболевание группа лизос...
20152015gm2ганглиозидоз тяжелое наследственное заболе...1gm 0ганглиозидоз тяжелое наследственное заболе...gm 0ганглиозидоз тяжелый наследственный заболе...gm тяжелый наследственный заболевание развиваю...наследственный_заболевание наследственный_забо...недостаточноить_активность получить_имя впервы...наследственный_заболевание наследственный_забо...недостаточноить относиться иметь оказывать пол...тяжелый наследственный заболевание развивающий...
20162016gm2 ганглиозидоз вариант аб англ gm2gangliosid...1gm 0 ганглиозидоз вариант аб англ gm 0ganglios...gm 0 ганглиозидоз вариант <person> англ gm 0ga...gm ганглиозидоз вариант <person> англ gm ab va...ганглиозидоз_вариант <person>_вариант <person>...характеризоваться_нормальноить нормальноить_ак...ганглиозидоз_вариант <person>_вариант <person>...характеризоваться нормальноить обусловить ферм...ганглиозидоз вариант англ редкий аутосомнореце...
20172017синдром gracile очень редкое аутосомнорецесси...1синдром gracile очень редкое аутосомнорецессив...синдром gracile очень редкий аутосомнорецессив...синдром gracile редкий аутосомнорецессивный ге...редкий_аутосомнорецессивный аутосомнорецессивн...заболевание_относиться заболевание_вызвать выз...генетический_заболевание наследственный_заболе...относиться вызватьсиндром редкий аутосомнорецессивный генетическ...
20182018вальгусная деформация первого пальца стопы hal...1вальгусная деформация первого пальца стопы hal...вальгусный деформация первое палец стопа hallu...вальгусный деформация первое палец стопа hallu...вальгусный_деформация вальгусный_деформация ва...есть_направить палец_обусловить обусловить_дли...вальгусный_деформация вальгусный_деформация ва...направить обусловить быть связать усугубляться...вальгусный деформация первое палец стопа вальг...
20192019hdrсиндром англ barakat syndrome аутосомнодом...1hdrсиндром англ barakat syndrome аутосомно - д...hdrсиндром англ barakat syndrome аутосомный - ...hdrсиндром англ barakat syndrome аутосомный до...доминантный_заболевание заболевание_проявлятьс...заболевание_проявляться заболевание_проявлятьс...доминантный_заболевание дисплазия_почка дефект...проявляться вызвать локализовать кодировать от...hdrсиндром англ аутосомный доминантный заболев...
20202020hellpсиндром редкое опасное осложнение в акуш...1hellpсиндром редкое опасное осложнение в акуше...hellpсиндром редкий опасный осложнение в акуше...hellpсиндром редкий опасный осложнение акушерс...редкий_опасный опасный_осложнение возникать_ка...возникать_как характеризоваться_быстрый эпигас...опасный_осложнение как_правило iii_триместр тр...возникать характеризоваться эпигастральноить о...hellpсиндром редкий опасный осложнение акушерс...
20212021iклеточная болезнь муколипидоз ii1 наследстве...1клеточная болезнь муколипидоз ii 0 наследствен...клеточный болезнь муколипидоз ii 0 наследствен...клеточный болезнь муколипидоз ii наследственны...клеточный_болезнь клеточный_болезнь болезнь_му...муколипидоз_относиться картина_развиваться бол...клеточный_болезнь клеточный_болезнь болезнь_му...относиться развиваться олигосахаридноить заклю...клеточный болезнь муколипидоз наследственный з...
20222022болезнь берже iga нефропатия идиопатическая в...1болезнь берже iga нефропатия идиопатическая во...болезнь бержа iga нефропатия идиопатический во...болезнь бержа iga нефропатия идиопатический во...болезнь_бержа болезнь_бержа болезнь_бержа боле...гломерулонефрит_являться заболеваемость_оценив...болезнь_бержа болезнь_бержа болезнь_бержа боле...являться распространить оцениваться достигать ...болезнь бержа нефропатия идиопатический возвра...
20232023larva migrans лат гельминтоз обусловленныи ми...1larva migrans лат гельминтоз обусловленныи миг...larva migrans лата гельминтоз <person> мигриро...larva migrans лата гельминтоз <person> мигриро...larva_migrans larva_migrans larva_migrans larv...различать_кожный заражение_происходить загрязн...лата_гельминтоз гельминто��_<person> внутренний...мигрировать иить не_достигать различать созрев...лата гельминтоз кожа внутренний орган человек ...
20242024сахарныи диабет взрослого типа у молодых диабе...1сахарныи диабет взрослого типа у молодых диабе...<person> диабет взрослый тип у молодая диабет ...<person> диабет взрослый тип молодая диабет ти...<person>_диабет диабет_взрослый диабет_взрослы...термин_описывать обозначать_разновидность прот...<person>_диабет диабет_взрослый диабет_взрослы...описывать обозначать обнаруживаться протекать ...диабет взрослый тип молодая диабет тип modyдиа...
20252025morgellons англоязычные синонимы morgellons di...1morgellons англоязычные синонимы morgellons di...morgellons англоязычный синоним morgellons dis...morgellons англоязычный синоним morgellons dis...англоязычный_синоним название_потенциальный го...больной_жаловаться что_находить психиатр_счита...англоязычный_синоним название_потенциальный го...распространить предложить жаловаться ползать к...англоязычный синоним русскоязычный некорректны...
20262026myriapodiasis редкая патология связанная со с...1myriapodiasis редкая патология связанная со сл...myriapodiasis редкий патология связать с случа...myriapodiasis редкий патология связать случайн...редкий_патология патология_связать болезнея_мк...патология_связать соответствовать_рубрика чело...редкий_патология болезнея_мкб кишечник_человек...связать соответствовать быть встречаться сказы...редкий патология случайный ложный паразитизм м...
20272027ornithonyssosis птичии клещевои дерматит акар...1ornithonyssosis птичий клещевои дерматит акари...ornithonyssosis птичий клещевой дерматит акари...ornithonyssosis птичий клещевой дерматит акари...птичий_клещевой клещевой_дерматит дерматит_ака...являться_паразит питаться_кровь человек_напада...клещевой_дерматит дерматит_акариаз акариаз_кож...являться обитать питаться голубеть нападать по...птичий клещевой дерматит акариаз кожа клещ пти...
20282028синдром pfapa лихорадки афтозного ��томатита фа...1синдром pfapa лихорадки афтозного стоматита фа...синдром pfapa лихорадка афтозный стоматит фари...синдром pfapa лихорадка афтозный стоматит фари...лихорадка_афтозный афтозный_стоматит афтозный_...заболевание_неизвестноить неизвестноить_этиоло...лихорадка_афтозный афтозный_стоматит афтозный_...неизвестноить проявляться повышенноить возника...синдром лихорадка афтозный стоматит фарингит ш...
20292029у мужчин pois англ postorgasmic illness syndro...1у мужчин pois англ postorgasmic illness syndro...у мужчина pois англ postorgasmic illness syndr...мужчина pois англ postorgasmic illness syndrom...syndrome_синдром редкий_заболевание эякуляция_...эякуляция_вызывать вызывать_недомогание симпто...syndrome_синдром редкий_заболевание физиологич...вызывать состоять иить длиться полагать быть с...мужчина англ синдром посторгазмический недомог...
20302030rhinonyssoidosis avium ринониссидоз у птиц за...1rhinonyssoidosis avium ринониссидоз у птиц заб...rhinonyssoidosis avium ринониссидоз у птица за...rhinonyssoidosis avium ринониссидоз птица забо...птица_заболевание птица_заболевание вызывать_п...вызывать_паразитический встречаться_внутри <pe...птица_заболевание птица_заболевание газовый_кл...вызывать являться обитать встречаться ростраль...ринониссидоз птица заболевание птица паразитич...
20312031синдром serkal аутосомнорецессивное заболеван...1синдром serkal аутосомнорецессивное заболевани...синдром serkal аутосомнорецессивный заболевани...синдром serkal аутосомнорецессивный заболевани...аутосомнорецессивный_заболевание заболевание_в...заболевание_встречаться являться_результат явл...аутосомнорецессивный_заболевание кариотип_xx п...встречаться вызвать участвовать являться встре...синдром аутосомнорецессивный заболевание карио...
20322032vldlrассоциированная мозжечковая гипоплазия ан...1vldlrассоциированная мозжечковая гипоплазия ан...vldlrассоциированный мозжечковый гипоплазия ан...vldlrассоциированный мозжечковый гипоплазия ан...мозжечковый_гипоплазия аномалия_развитие наруш...наследование_носить носить_<person> заболевани...мозжечковый_гипоплазия аномалия_развитие наруш...связать носить встречаться описать обнаружить ...vldlrассоциированный мозжечковый гипоплазия ан...
20332033xсвязанная или xсцепленная эндотелиальная дист...1связанная или xсцепленная эндотелиальная дистр...связать или xсцепить эндотелиальный дистрофия ...связать xсцепить эндотелиальный дистрофия рого...эндотелиальный_дистрофия дистрофия_роговица ди...впервые_описать роговица_образоваться образова...эндотелиальный_дистрофия дистрофия_роговица ди...связать xсцепить описать образоваться напомина...эндотелиальный дистрофия роговица англ краина ...
20342034xсвязанныи ихтиоз xсцепленныи ихтиоз xсцеплен...1связанные ихтиоз xсцепленныи ихтиоз xсцепленно...связанный ихтиоз <person> ихтиоз xсцепить реце...связанный ихтиоз <person> ихтиоз xсцепить реце...связанный_ихтиоз <person>_ихтиоз <person>_ихти...заболевание_вызывать врожденноить_недостаточно...связанный_ихтиоз <person>_ихтиоз <person>_ихти...xсцепить вызывать врожденноить преобразовать к...связанный ихтиоз ихтиоз рецессивный кожный заб...
20352035xxдисгенезия гонад тип женского гипогонадизма...1xxдисгенезия гонад тип женского гипогонадизма ...xxдисгенезия гонада тип женский гипогонадизм п...xxдисгенезия гонада тип женский гипогонадизм о...тип_гонада женский_тип женский_гипогонадизм от...отсутствовать_функциональный назначать_гормона...тип_гонада женский_тип женский_гипогонадизм фу...отсутствовать быть вызвать нормальноить назнач...xxдисгенезия гонада тип женский гипогонадизм ф...
\n", + "

2036 rows × 11 columns

\n", + "
" + ], + "text/plain": [ + " session_id text \\\n", + "0 0 бедная симптомами шизофрения подтип шизотипич... \n", + "1 1 46xx46xy тетрагаметныи химеризм это разновидн... \n", + "2 2 синдром 48 xxxy это генетическое состояние об... \n", + "3 3 синдром 48 xxyy это аномалия хромосом при кот... \n", + "4 4 синдром 48 xyyy чрезвычаино редкая анеуплоидн... \n", + "5 5 синдром 49 xxxxy чрезвычаино редкая анеуплоид... \n", + "6 6 синдром 49 xxxyy чрезвычаино редкая анеуплоид... \n", + "7 7 синдром 49 xyyyy чрезвычаино редкая анеуплоид... \n", + "8 8 аббревиатоз abbreviatosis гельминтоз из групп... \n", + "9 9 абсанс фр absence буквально отсутствие истори... \n", + "10 10 абсцесс лат abscessus нарыв гноиное воспален... \n", + "11 11 абсцесс головного мозга очаговое скопление гн... \n", + "12 12 абсцесс зуба инфекционныи процесс которыи обу... \n", + "13 13 абсцесс легкого абсцедирующая пневмония это гн... \n", + "14 14 авитаминоз заболевание являющееся следствием ... \n", + "15 15 синдром автопивоварни также синдром ферментаци... \n", + "16 16 агалактия от греч а без не и галактос молоко ... \n", + "17 17 агенезия мозолистого тела амт редкии врожденн... \n", + "18 18 агорафобия от дргреч αγορα базар рынок φοβος ... \n", + "19 19 агранулоцитоз представляет собои патологическо... \n", + "20 20 аддисоническии криз гипоадреналовыи криз остра... \n", + "21 21 аденовирусная инфекция группа инфекционных за... \n", + "22 22 аденокарцинoма дргреч αδην железа и дргреч κα... \n", + "23 23 аденома лат adenoma от дргреч αδην железа ομα... \n", + "24 24 аденомы гипофиза опухоли железистои ткани гип... \n", + "25 25 аденома надпочечника собирательное понятие до... \n", + "26 26 аденома паращитовиднои железы паратиреоаденома... \n", + "27 27 аденома сальных желез доброкачественная опухо... \n", + "28 28 аденома щитовиднои железы лат adenoma glandula... \n", + "29 29 аденоматозные полипы или аденомы это истинные... \n", + "... ... ... \n", + "2006 2006 язва роговицы или язвенныи кератит воспал... \n", + "2007 2007 язвенныи колит или неспецифическии язвенныи ко... \n", + "2008 2008 японскии энцефалит летнеосеннии комариныи энце... \n", + "2009 2009 ячмень hordeolum острое гноиное воспаление во... \n", + "2010 2010 ящур острое вирусное заболевание из группы зо... \n", + "2011 2011 birdshot хориоретинопатия является редкои фор... \n", + "2012 2012 cadasil от англ cerebral autosomal dominant a... \n", + "2013 2013 carcinoma in situ лат carcinoma in situ рак н... \n", + "2014 2014 gm1ганглиозидозы редкие наследственные заболе... \n", + "2015 2015 gm2ганглиозидоз тяжелое наследственное заболе... \n", + "2016 2016 gm2 ганглиозидоз вариант аб англ gm2gangliosid... \n", + "2017 2017 синдром gracile очень редкое аутосомнорецесси... \n", + "2018 2018 вальгусная деформация первого пальца стопы hal... \n", + "2019 2019 hdrсиндром англ barakat syndrome аутосомнодом... \n", + "2020 2020 hellpсиндром редкое опасное осложнение в акуш... \n", + "2021 2021 iклеточная болезнь муколипидоз ii1 наследстве... \n", + "2022 2022 болезнь берже iga нефропатия идиопатическая в... \n", + "2023 2023 larva migrans лат гельминтоз обусловленныи ми... \n", + "2024 2024 сахарныи диабет взрослого типа у мо��одых диабе... \n", + "2025 2025 morgellons англоязычные синонимы morgellons di... \n", + "2026 2026 myriapodiasis редкая патология связанная со с... \n", + "2027 2027 ornithonyssosis птичии клещевои дерматит акар... \n", + "2028 2028 синдром pfapa лихорадки афтозного стоматита фа... \n", + "2029 2029 у мужчин pois англ postorgasmic illness syndro... \n", + "2030 2030 rhinonyssoidosis avium ринониссидоз у птиц за... \n", + "2031 2031 синдром serkal аутосомнорецессивное заболеван... \n", + "2032 2032 vldlrассоциированная мозжечковая гипоплазия ан... \n", + "2033 2033 xсвязанная или xсцепленная эндотелиальная дист... \n", + "2034 2034 xсвязанныи ихтиоз xсцепленныи ихтиоз xсцеплен... \n", + "2035 2035 xxдисгенезия гонад тип женского гипогонадизма... \n", + "\n", + " is_client raw_tokenized \\\n", + "0 1 бедная симптомами шизофрения подтип шизотипиче... \n", + "1 1 00xx 00xy тетрагаметныи химеризм это разновидн... \n", + "2 1 синдром 00 xxxy это генетическое состояние обу... \n", + "3 1 синдром 00 xxyy это аномалия хромосом при кото... \n", + "4 1 синдром 00 xyyy чрезвычаино редкая анеуплоидна... \n", + "5 1 синдром 00 xxxxy чрезвычаино редкая анеуплоидн... \n", + "6 1 синдром 00 xxxyy чрезвычаино редкая анеуплоидн... \n", + "7 1 синдром 00 xyyyy чрезвычаино редкая анеуплоидн... \n", + "8 1 аббревиатоз abbreviatosis гельминтоз из группы... \n", + "9 1 баланс фр absence буквально отсутствие историч... \n", + "10 1 абсцесс лат abscessus нарыв гноиное воспаление... \n", + "11 1 абсцесс головного мозга очаговое скопление гно... \n", + "12 1 абсцесс зуба инфекционныи процесс которыи обус... \n", + "13 1 абсцесс легкого абсцедирующая пневмония это гн... \n", + "14 1 авитаминоз заболевание являющееся следствием д... \n", + "15 1 синдром авто пивоварни также синдром ферментац... \n", + "16 1 агалактия от греч а без не и галактос молоко п... \n", + "17 1 агенезия мозолистого тела амт редкии врожденны... \n", + "18 1 агорафобия от дргреч α γ ο ρ α базар рынок φ ο... \n", + "19 1 агранулоцитоз представляет собои патологическо... \n", + "20 1 аддисоническии криз гипоадреналовыи криз остра... \n", + "21 1 аденовирусная инфекция группа инфекционных заб... \n", + "22 1 аденокарцинoма дргреч α δ η ν железа и дргреч ... \n", + "23 1 аденома лат adenoma от дргреч α δ η ν железа ο... \n", + "24 1 аденомы гипофиза опухоли железистой ткани гипо... \n", + "25 1 аденома надпочечника собирательное понятие доб... \n", + "26 1 аденома паращитовиднои железы паратиреоаденома... \n", + "27 1 аденома сальных желез доброкачественная опухол... \n", + "28 1 аденома щитовиднои железы лат adenoma glandula... \n", + "29 1 аденоматозные полипы или аденомы это истинные ... \n", + "... ... ... \n", + "2006 1 язва роговицы или язвенныи кератит воспаленное... \n", + "2007 1 язвенный колит или неспецифическии язвенный ко... \n", + "2008 1 японских энцефалит летнеосеннии комариныи энце... \n", + "2009 1 ячмень hordeolum острое гноиное воспаление вол... \n", + "2010 1 ящур острое вирусное заболевание из группы зоо... \n", + "2011 1 birdshot хориоретинопатия является редкои форм... \n", + "2012 1 cadasil от англ cerebral autosomal dominant ar... \n", + "2013 1 carcinoma in situ лат carcinoma in situ рак на... \n", + "2014 1 gm 0ганглиозидозы редкие наследственные заболе... \n", + "2015 1 gm 0ганглиозидоз тяжелое наследственное заболе... \n", + "2016 1 gm 0 ганглиозидоз вариант аб англ gm 0ganglios... \n", + "2017 1 синдром gracile очень редкое аутосомнорецессив... \n", + "2018 1 вальгусная деформация первого пальца стопы hal... \n", + "2019 1 hdrсиндром англ barakat syndrome аутосомно - д... \n", + "2020 1 hellpсиндром редкое опасное осложнение в акуше... \n", + "2021 1 клеточная болезнь муколипидоз ii 0 наследствен... \n", + "2022 1 болезнь берже iga нефропатия идиопатическая во... \n", + "2023 1 larva migrans лат гельминтоз обусловленныи миг... \n", + "2024 1 сахарныи диабет взрослого типа у молодых диабе... \n", + "2025 1 morgellons англоязычные синонимы morgellons di... \n", + "2026 1 myriapodiasis редкая патология связанная со сл... \n", + "2027 1 ornithonyssosis птичий клещевои дерматит акари... \n", + "2028 1 синдром pfapa лихорадки афтозного стоматита фа... \n", + "2029 1 у мужчин pois англ postorgasmic illness syndro... \n", + "2030 1 rhinonyssoidosis avium ринониссидоз у птиц заб... \n", + "2031 1 синдром serkal аутосомнорецессивное заболевани... \n", + "2032 1 vldlrассоциированная мозжечковая гипоплазия ан... \n", + "2033 1 связанная или xсцепленная эндотелиальная дистр... \n", + "2034 1 связанные ихтиоз xсцепленныи ихтиоз xсцепленно... \n", + "2035 1 xxдисгенезия гонад тип женского гипогонадизма ... \n", + "\n", + " raw_lemmatized \\\n", + "0 бедный симптом шизофрения подтип шизотипически... \n", + "1 00xx 00xy химеризм это разновидность ... \n", + "2 синдром 00 xxxy это генетический состояние обу... \n", + "3 синдром 00 xxyy это аномалия хромосома при воспален... \n", + "11 абсцесс головной мозг очаговый скопление гноит... \n", + "12 абсцесс зуб процесс обуслови... \n", + "13 абсцесс легкое абсцедировать пневмония это д... \n", + "18 агорафобия от дргреча α γ ο ρ α базар рынок φ ... \n", + "19 агранулоцитоз представлять собои патологически... \n", + "20 криз гипоадреналовыя криз острый надп... \n", + "21 аденовирусный инфекция группа инфекционный заб... \n", + "22 аденокарцинoм дргреча α δ η ν железо и дргреча... \n", + "23 аденома лата adenoma от дргреча α δ η ν железо... \n", + "24 аденома гипофиз опухоль железистый ткань гипоф... \n", + "25 аденома надпочечник собирательный понятие добр... \n", + "26 аденома паращитовидноить железа паратиреоадено... \n", + "27 аденома сальный железо доброкачественный опухо... \n", + "28 аденома щитовидноить железа лата adenoma gland... \n", + "29 аденоматозный полип или аденома это истинный н... \n", + "... ... \n", + "2006 язва роговица или кератит воспалить и... \n", + "2007 язвенный колит или язвенный колит няк... \n", + "2008 японский энцефалит энцефалит... \n", + "2009 ячмень hordeolum острый воспаление во... \n", + "2010 ящур острый вирусный заболевание из группа зоо... \n", + "2011 birdshot хориоретинопатия являться редкой форм... \n", + "2012 cadasil от англ cerebral autosomal dominant ar... \n", + "2013 carcinoma in situ лата carcinoma in situ рак н... \n", + "2014 gm 0ганглиозидоз редкий наследственный заболев... \n", + "2015 gm 0ганглиозидоз тяжелый наследственный заболе... \n", + "2016 gm 0 ганглиозидоз вариант англ gm 0ga... \n", + "2017 синдром gracile очень редкий аутосомнорецессив... \n", + "2018 вальгусный деформация первое палец стопа hallu... \n", + "2019 hdrсиндром англ barakat syndrome аутосомный - ... \n", + "2020 hellpсиндром редкий опасный осложнение в акуше... \n", + "2021 клеточный болезнь муколипидоз ii 0 наследствен... \n", + "2022 болезнь бержа iga нефропатия идиопатический во... \n", + "2023 larva migrans лата гельминтоз мигриро... \n", + "2024 диабет взрослый тип у молодая диабет ... \n", + "2025 morgellons англоязычный синоним morgellons dis... \n", + "2026 myriapodiasis редкий патология связать с случа... \n", + "2027 ornithonyssosis птичий клещевой дерматит акари... \n", + "2028 синдром pfapa лихорадка афтозный стоматит фари... \n", + "2029 у мужчина pois англ postorgasmic illness syndr... \n", + "2030 rhinonyssoidosis avium ринониссидоз у птица за... \n", + "2031 синдром serkal аутосомнорецессивный заболевани... \n", + "2032 vldlrассоциированный мозжечковый гипоплазия ан... \n", + "2033 связать или xсцепить эндотелиальный дистрофия ... \n", + "2034 связанный ихтиоз ихтиоз xсцепить реце... \n", + "2035 xxдисгенезия гонада тип женский гипогонадизм п... \n", + "\n", + " lemmatized \\\n", + "0 бедный симптом шизофрения подтип шизотипически... \n", + "1 химеризм разновидность химеризм вызва... \n", + "2 синдром xxxy генетический состояние обуслови��ь... \n", + "3 синдром xxyy аномалия хромосома челов... \n", + "4 синдром xyyy чрезвычаин редкий анеуплоидный по... \n", + "5 синдром xxxxy чрезвычаин редкий анеуплоидный п... \n", + "6 синдром xxxyy чрезвычаин редкий анеуплоидный п... \n", + "7 синдром xyyyy чрезвычаин редкий анеуплоидный п... \n", + "8 аббревиатоз abbreviatosis гельминтоз группа не... \n", + "9 баланс фр absence буквально отсутствие историч... \n", + "10 абсцесс лата abscessus нарыв воспален... \n", + "11 абсцесс головной мозг очаговый скопление гноит... \n", + "12 абсцесс зуб процесс обуслови... \n", + "13 абсцесс легкое абсцедировать пневмония д... \n", + "18 агорафобия дргреча базар рынок страх боязнь от... \n", + "19 агранулоцитоз представлять собои патологически... \n", + "20 криз гипоадреналовыя криз острый надп... \n", + "21 аденовирусный инфекция группа инфекционный заб... \n", + "22 аденокарцинoм дргреча железо дргреча краб опух... \n", + "23 аденома лата adenoma дргреча железо опухоль до... \n", + "24 аденома гипофиз опухоль железистый ткань гипоф... \n", + "25 аденома надпочечник собирательный понятие добр... \n", + "26 аденома паращитовидноить железа паратиреоадено... \n", + "27 аденома сальный железо доброкачественный опухо... \n", + "28 аденома щитовидноить железа лата adenoma gland... \n", + "29 аденоматозный полип аденома истинный неоплазия... \n", + "... ... \n", + "2006 язва роговица кератит воспалить серье... \n", + "2007 язвенный колит язвенный колит няк хро... \n", + "2008 японский энцефалит энцефалит... \n", + "2009 ячмень hordeolum острый воспаление во... \n", + "2010 ящур острый вирусный заболевание группа зооноз... \n", + "2011 birdshot хориоретинопатия являться редкой форм... \n", + "2012 cadasil англ cerebral autosomal dominant arter... \n", + "2013 carcinoma situ лата carcinoma situ рак место <... \n", + "2014 gm редкий наследственный заболевание группа ли... \n", + "2015 gm тяжелый наследственный заболевание развиваю... \n", + "2016 gm ганглиозидоз вариант англ gm ab va... \n", + "2017 синдром gracile редкий аутосомнорецессивный ге... \n", + "2018 вальгусный деформация первое палец стопа hallu... \n", + "2019 hdrсиндром англ barakat syndrome аутосомный до... \n", + "2020 hellpсиндром редкий опасный осложнение акушерс... \n", + "2021 клеточный болезнь муколипидоз ii наследственны... \n", + "2022 болезнь бержа iga нефропатия идиопатический во... \n", + "2023 larva migrans лата гельминтоз мигриро... \n", + "2024 диабет взрослый тип молодая диабет ти... \n", + "2025 morgellons англоязычный синоним morgellons dis... \n", + "2026 myriapodiasis редкий патология связать случайн... \n", + "2027 ornithonyssosis птичий клещевой дерматит акари... \n", + "2028 синдром pfapa лихорадка афтозный стоматит фари... \n", + "2029 мужчина pois англ postorgasmic illness syndrom... \n", + "2030 rhinonyssoidosis avium ринониссидоз птица забо... \n", + "2031 синдром serkal аутосомнорецессивный заболевани... \n", + "2032 vldlrассоциированный мозжечковый гипоплазия ан... \n", + "2033 связать xсцепить эндотелиальный дистрофия рого... \n", + "2034 связанный ихтиоз ихтиоз xсцепить реце... \n", + "2035 xxдисгенезия гонада тип женский гипогонадизм о... \n", + "\n", + " ngramms \\\n", + "0 бедный_симптом бедный_симптом бедный_симптом б... \n", + "1 вызвать_наличие различный_клеточный клеточный_... \n", + "2 генетический_состояние состояние_обусловить об... \n", + "3 аномалия_хромосома человек_иметься иметься_доп... \n", + "4 чрезвычаин_редкий половый_хромосомный хромосом... \n", + "5 чрезвычаин_редкий половый_хромосомный хромосом... \n", + "6 чрезвычаин_редкий половый_хромосомный хромосом... \n", + "7 чрезвычаин_редкий половый_хромосомный хромосом... \n", + "8 группа_нематодоз нематодоз_ возбудител... \n", + "9 исторический_название название_ воспаление_ образо... \n", + "11 абсцесс_головной абсцесс_головной абсцесс_голо... \n", + "12 абсцесс_зуб абсцесс_зуб абсцесс_зуб абсцесс_зу... \n", + "13 абсцесс_легкое абсцесс_легкое абсцесс_легкое а... \n", + "14 заболевание_являться являться_следствие следст... \n", + "15 редкий_заболевание пищеварительный_система кол... \n", + "16 полный_отсутствие отсутствие_молоко отсутствие... \n", + "17 мозолистый_тело мозолистый_тело мозолистый_тел... \n", + "18 страх_боязнь страх_боязнь боязнь_открытый откр... \n", + "19 агранулоцитоз_представлять представлять_собои ... \n", + "20 _криз криз_острый острый_надпочечник н... \n", + "21 аденовирусный_инфекция аденовирусный_инфекция ... \n", + "22 злокачественный_опухоль злокачественный_опухол... \n", + "23 доброкачественный_опухоль доброкачественный_оп... \n", + "24 аденома_гипофиз аденома_гипофиз аденома_гипофи... \n", + "25 аденома_надпочечник аденома_надпочечник аденом... \n", + "26 аденома_паращитовидноить аденома_паращитовидно... \n", + "27 аденома_сальный аденома_сальный аденома_сальны... \n", + "28 аденома_щитовидноить аденома_щитовидноить аден... \n", + "29 аденоматозный_полип аденоматозный_полип аденом... \n", + "... ... \n", + "2006 язва_роговица язва_роговица язва_роговица язва... \n", + "2007 язвенный_колит язвенный_колит язвенный_колит я... \n", + "2008 японский_энцефалит японский_энцефалит японский... \n", + "2009 воспаление_ воспаление_ воспал... \n", + "2010 острый_вирусный вирусный_заболевание _... \n", + "2011 birdshot_хориоретинопатия birdshot_хориоретино... \n", + "2012 церебральный_аутосомнодоминантный заболевание_... \n", + "2013 рак_ рак_ рак_ стадия_... \n", + "2014 редкий_наследственный наследственный_заболеван... \n", + "2015 наследственный_заболевание наследственный_забо... \n", + "2016 ганглиозидоз_вариант _вариант ... \n", + "2017 редкий_аутосомнорецессивный аутосомнорецессивн... \n", + "2018 вальгусный_деформация вальгусный_деформация ва... \n", + "2019 доминантный_заболевание заболевание_проявлятьс... \n", + "2020 редкий_опасный опасный_осложнение возникать_ка... \n", + "2021 клеточный_болезнь клеточный_болезнь болезнь_му... \n", + "2022 болезнь_бержа болезнь_бержа болезнь_бержа боле... \n", + "2023 larva_migrans larva_migrans larva_migrans larv... \n", + "2024 _диабет диабет_взрослый диабет_взрослы... \n", + "2025 англоязычный_синоним название_потенциальный го... \n", + "2026 редкий_патология патология_связать болезнея_мк... \n", + "2027 птичий_клещевой клещевой_дерматит дерматит_ака... \n", + "2028 лихорадка_афтозный афтозный_стоматит афтозный_... \n", + "2029 syndrome_синдром редкий_заболевание эякуляция_... \n", + "2030 птица_заболевание птица_заболевание вызывать_п... \n", + "2031 аутосомнорецессивный_заболевание заболевание_в... \n", + "2032 мозжечковый_гипоплазия аномалия_развитие наруш... \n", + "2033 эндотелиальный_дистрофия дистрофия_роговица ди... \n", + "2034 связанный_ихтиоз _ихтиоз _ихти... \n", + "2035 тип_гонада женский_тип женский_гипогонадизм от... \n", + "\n", + " verb_ngramms \\\n", + "0 заболевание_нарастать нарастать_аутизм расстро... \n", + "1 вызвать_наличие возникать_внутриутробный не_сл... \n", + "2 состояние_обусловить обусловить_ мужчи... \n", + "3 человек_иметься иметься_дополнительный женщина... \n", + "4 случай_представлять представлять_собои мочь_на... \n", + "5 синдром_являться являться_результат быть_диагн... \n", + "6 случай_представлять представлять_собои хромосо... \n", + "7 случай_представлять представлять_собои основно... \n", + "8 самец_иметь иметь_размер человек_описать диагн... \n", + "9 характерноить_особенность характерноить_особен... \n", + "10 мочь_развиться подкожноить_клетчатка мочь_возн... \n", + "11 скопление_гноить скопление_гноить заболевание_... \n", + "12 обусловить_ обусловить_скопление скопл... \n", + "13 легкое_характеризоваться легкое_характеризоват... \n", + "14 заболевание_являться являться_следствие отсутс... \n", + "15 патоген_быть быть_идентифицировать исследовани... \n", + "16 молоко_называться мочь_быть мочь_быть быть_пер... \n", + "17 наблюдаться_полный мочь_быть мочь_быть мочь_бы... \n", + "18 появляться_страх мочь_потребовать потребовать_... \n", + "19 агранулоцитоз_представлять представлять_собои ... \n", + "20 состояние_проявляться проявляться_резкой иногд... \n", + "21 являться_аденовирус инфекция_орвать характериз... \n", + "22 опухоль_состоять поразить_клетка поразить_орга... \n", + "23 опухоль_происходить аденома_щитовидноить щитов... \n", + "24 причина_оставаться гипофиз_занимать занимать_л... \n", + "25 продуцировать_гормон продуцировать_гормон прод... \n", + "26 аденома_паращитовидноить аденома_паращитовидно... \n", + "27 характеризоваться_медленный обычно_выглядеть в... \n", + "28 аденома_щитовидноить аденома_щитовидноить аден... \n", + "29 полип_считаться мочь_появиться неоплазия_не_яв... \n", + "... ... \n", + "2006 распространить_явление особенно_жить ребенок_с... \n", + "2007 характеризоваться_обострение есть_затрагивать ... \n", + "2008 вызываться_инфекция являться_комар являться_ко... \n", + "2009 отечь_край ячмень_вызываться бактериальноить_<... \n", + "2010 _характеризоваться _характериз... \n", + "2011 хориоретинопатия_являться хориоретинопатия_явл... \n", + "2012 заболевание_вызвать вызвать_ _... \n", + "2013 являться_ являться_скопление гистологи... \n", + "2014 картина_обусловить обусловить_дефект клетка_це... \n", + "2015 недостаточноить_активность получить_имя впервы... \n", + "2016 характеризоваться_нормальноить нормальноить_ак... \n", + "2017 заболевание_относиться заболевание_вызвать выз... \n", + "2018 есть_направить палец_обусловить обусловить_дли... \n", + "2019 заболевание_проявляться заболевание_проявлятьс... \n", + "2020 возникать_как характеризоваться_быстрый эпигас... \n", + "2021 муколипидоз_относиться картина_развиваться бол... \n", + "2022 гломерулонефрит_являться заболеваемость_оценив... \n", + "2023 различать_кожный заражение_происходить загрязн... \n", + "2024 термин_описывать обозначать_разновидность прот... \n", + "2025 больной_жаловаться что_находить психиатр_счита... \n", + "2026 патология_связать соответствовать_рубрика чело... \n", + "2027 являться_паразит питаться_кровь человек_напада... \n", + "2028 заболевание_неизвестноить неизвестноить_этиоло... \n", + "2029 эякуляция_вызывать вызывать_недомогание симпто... \n", + "2030 вызывать_паразитический встречаться_внутри заболевани... \n", + "2033 впервые_описать роговица_образоваться образова... \n", + "2034 заболевание_вызывать врожденноить_недостаточно... \n", + "2035 отсутствовать_функциональный назначать_гормона... \n", + "\n", + " theme_ngramms \\\n", + "0 бедный_симптом бедный_симптом бедный_симптом б... \n", + "1 клеточный_популяция комбинация_зигота зигота_x... \n", + "2 генетический_состояние половый_хромосома полов... \n", + "3 аномалия_хромосома человек_обычно человек_обыч... \n", + "4 чрезвычаин_редкий хромосомный_аномалия аномали... \n", + "5 чрезвычаин_редкий хромос��мный_аномалия аномали... \n", + "6 чрезвычаин_редкий хромосомный_аномалия аномали... \n", + "7 чрезвычаин_редкий хромосомный_аномалия аномали... \n", + "8 группа_нематодоз нематодоз_ возбудител... \n", + "9 исторический_название название_ эпилеп... \n", + "10 воспаление_ воспаление_ образо... \n", + "11 абсцесс_головной абсцесс_головной абсцесс_голо... \n", + "12 абсцесс_зуб абсцесс_зуб абсцесс_зуб абсцесс_зу... \n", + "13 абсцесс_легкое абсцесс_легкое абсцесс_легкое а... \n", + "14 следствие_длительный неполноценный_питание _криз криз_острый острый_надпочечник н... \n", + "21 аденовирусный_инфекция аденовирусный_инфекция ... \n", + "22 злокачественный_опухоль злокачественный_опухол... \n", + "23 доброкачественный_опухоль доброкачественный_оп... \n", + "24 аденома_гипофиз аденома_гипофиз аденома_гипофи... \n", + "25 аденома_надпочечник аденома_надпочечник аденом... \n", + "26 железа_доброкачественный доброкачественный_нов... \n", + "27 аденома_сальный аденома_сальный аденома_сальны... \n", + "28 доброкачественный_опухоль появление_узел папил... \n", + "29 аденоматозный_полип аденоматозный_полип аденом... \n", + "... ... \n", + "2006 язва_роговица язва_роговица язва_роговица язва... \n", + "2007 язвенный_колит язвенный_колит язвенный_колит я... \n", + "2008 японский_энцефалит японский_энцефалит японский... \n", + "2009 воспаление_ воспаление_ воспал... \n", + "2010 вирусный_заболевание поражение_слизистый пораж... \n", + "2011 birdshot_хориоретинопатия birdshot_хориоретино... \n", + "2012 _ген ишемической_атака ишемической_ата... \n", + "2013 рак_ рак_ рак_ стадия_... \n", + "2014 наследственный_заболевание группа_лизосомный л... \n", + "2015 наследственный_заболевание наследственный_забо... \n", + "2016 ганглиозидоз_вариант _вариант ... \n", + "2017 генетический_заболевание наследственный_заболе... \n", + "2018 вальгусный_деформация вальгусный_деформация ва... \n", + "2019 доминантный_заболевание дисплазия_почка дефект... \n", + "2020 опасный_осложнение как_правило iii_триместр тр... \n", + "2021 клеточный_болезнь клеточный_болезнь болезнь_му... \n", + "2022 болезнь_бержа болезнь_бержа болезнь_бержа боле... \n", + "2023 лата_гельминтоз гельминтоз_ внутренний... \n", + "2024 _диабет диабет_взрослый диабет_взрослы... \n", + "2025 англоязычный_синоним название_потенциальный го... \n", + "2026 редкий_патология болезнея_мкб кишечник_человек... \n", + "2027 клещево��_дерматит дерматит_акариаз акариаз_кож... \n", + "2028 лихорадка_афтозный афтозный_стоматит афтозный_... \n", + "2029 syndrome_синдром редкий_заболевание физиологич... \n", + "2030 птица_заболевание птица_заболевание газовый_кл... \n", + "2031 аутосомнорецессивный_заболевание кариотип_xx п... \n", + "2032 мозжечковый_гипоплазия аномалия_развитие наруш... \n", + "2033 эндотелиальный_дистрофия дистрофия_роговица ди... \n", + "2034 связанный_ихтиоз _ихтиоз _ихти... \n", + "2035 тип_гонада женский_тип женский_гипогонадизм фу... \n", + "\n", + " verb_lemmatized \\\n", + "0 считаться судить социальноить нарастать возник... \n", + "1 вызвать возникать превратиться не_следовать пу... \n", + "2 обусловить иметь функционировать вызывать опре... \n", + "3 иметься иметь иметь функционировать делать явл... \n", + "4 представлять характеризоваться легкоиумереннои... \n", + "5 являться быть диагностировать быть назвать выр... \n", + "6 представлять характеризоваться наблюдаться наб... \n", + "7 представлять характеризоваться умственноить ум... \n", + "8 иметь описать паразитировать не_изучить ставить \n", + "9 характерноить являться различноить проявляться... \n", + "10 развиться подкожноить возникать связать проявл... \n", + "11 гноить вызывать существовать заключаться возни... \n", + "12 обусловить гноить альвеолярноить являться скап... \n", + "13 абсцедировать характеризоваться окружить периф... \n", + "14 являться отсутствовать встречаться изучить явл... \n", + "15 образоваться опьянять быть идентифицировать по... \n", + "16 называться быть первичноить вторичноить обусло... \n", + "17 наблюдаться быть обнаружить сочетаться нарушит... \n", + "18 появляться потребовать проявляться быть получи... \n", + "19 представлять наблюдаться повышаться выделять с... \n", + "20 проявляться развиваться сопровождаться умеренн... \n", + "21 являться относиться орвать характеризоваться л... \n", + "22 состоять поразить \n", + "23 происходить щитовидноить исходить встречаться ... \n", + "24 развиваться оставаться отводиться занимать лид... \n", + "25 продуцировать различать синтезировать не_облад... \n", + "26 паращитовидноить околощитовидноить паращитовид... \n", + "27 развиваться характеризоваться выглядеть не_име... \n", + "28 щитовидноить характеризоваться щитовидноить но... \n", + "29 расти сопрячь считаться появиться не_являться ... \n", + "... ... \n", + "2006 воспалить затрагивать распространить жить стра... \n", + "2007 возникать характеризоваться обнаруживаться зат... \n", + "2008 вызываться являться характеризоваться являться... \n", + "2009 располагаться существовать воспаляться отечь в... \n", + "2010 характеризоваться являться составлять характер... \n", + "2011 являться вызывать прогрессировать быть диагнос... \n", + "2012 вызвать характеризоваться транзиторноить возни... \n", + "2013 являться изменить подлежать считаться находить... \n", + "2014 обусловить вести центральноить характеризовать... \n", + "2015 недостаточноить относиться иметь оказывать пол... \n", + "2016 характеризоваться нормальноить обусловить ферм... \n", + "2017 относиться вызвать \n", + "2018 направить обусловить быть связать усугубляться... \n", + "2019 проявляться вызвать локализовать кодировать от... \n", + "2020 возникать характеризоваться эпигастральноить о... \n", + "2021 относиться развиваться олигосахаридноить заклю... \n", + "2022 являться распространить оцениваться достигать ... \n", + "2023 мигрировать иить не_достигать различать созрев... \n", + "2024 описывать обозначать обнаруживаться протекать ... \n", + "2025 распространить предложить жаловаться ползать к... \n", + "2026 связать соответствовать быть встречаться сказы... \n", + "2027 являться обитать питаться голубеть нападать по... \n", + "2028 неизвестноить проявляться повышенноить возника... \n", + "2029 вызывать состоять иить длиться полагать быть с... \n", + "2030 вызывать являться обитать встречаться ростраль... \n", + "2031 встречаться вызвать участвовать являться встре... \n", + "2032 связать носить встречаться описать обнаружить ... \n", + "2033 связать xсцепить описать образоваться напомина... \n", + "2034 xсцепить вызывать врожденноить преобразовать к... \n", + "2035 отсутствовать быть вызвать нормальноить назнач... \n", + "\n", + " noun_lemmatized \n", + "0 бедный симптом шизофрения подтип шизотипически... \n", + "1 химеризм разновидность химеризм наличие различ... \n", + "2 синдром генетический состояние половый хромосо... \n", + "3 синдром аномалия хромосома человек дополнитель... \n", + "4 синдром чрезвычаин редкий анеуплоидный половый... \n", + "5 синдром чрезвычаин редкий анеуплоидный половый... \n", + "6 синдром чрезвычаин редкий анеуплоидный половый... \n", + "7 синдром чрезвычаин редкий анеуплоидный половый... \n", + "8 аббревиатоз гельминтоз группа нематодоз возбуд... \n", + "9 баланс отсутствие исторический название припад... \n", + "10 абсцесс лата нарыв воспаление расплавление обр... \n", + "11 абсцесс головной мозг очаговый скопление вещес... \n", + "12 абсцесс зуб процесс скопление поверхность альв... \n", + "13 абсцесс легкое пневмония процесс легкое образо... \n", + "14 авитаминоз заболевание следствие длительный не... \n", + "15 синдром авто пивоварня синдром ферментация киш... \n", + "16 агалактия греча галактос молоко полный отсутст... \n", + "17 агенезия мозолистый тело редкия дефект врожден... \n", + "18 агорафобия дргреча базар рынок боязнь открытый... \n", + "19 агранулоцитоз собои патологический состоян��е с... \n", + "20 криз гипоадреналовыя криз острый надпочечник н... \n", + "21 аденовирусный инфекция группа инфекционный заб... \n", + "22 аденокарцинoм дргреча железо дргреча краб опух... \n", + "23 аденома лата дргреча железо опухоль доброкачес... \n", + "24 аденома гипофиз опухоль железистый ткань гипоф... \n", + "25 аденома надпочечник собирательный понятие добр... \n", + "26 аденома железа паратиреоаденома аденома железа... \n", + "27 аденома сальный железо доброкачественный опухо... \n", + "28 аденома железа лата доброкачественный опухоль ... \n", + "29 аденоматозный полип аденома истинный неоплазия... \n", + "... ... \n", + "2006 язва роговица кератит инфекционный состояние р... \n", + "2007 язвенный колит язвенный колит хронический восп... \n", + "2008 японский энцефалит энцефалит острый инфекционн... \n", + "2009 ячмень острый воспаление волосяной мешочек рес... \n", + "2010 ящур острый вирусный заболевание группа зооноз... \n", + "2011 хориоретинопатия редкой формои двусторонний за... \n", + "2012 англ артериопатия церебральный аутосомнодомина... \n", + "2013 лата рак место рак рак рак стадия злокачествен... \n", + "2014 редкий наследственный заболевание группа лизос... \n", + "2015 тяжелый наследственный заболевание развивающий... \n", + "2016 ганглиозидоз вариант англ редкий аутосомнореце... \n", + "2017 синдром редкий аутосомнорецессивный генетическ... \n", + "2018 вальгусный деформация первое палец стопа вальг... \n", + "2019 hdrсиндром англ аутосомный доминантный заболев... \n", + "2020 hellpсиндром редкий опасный осложнение акушерс... \n", + "2021 клеточный болезнь муколипидоз наследственный з... \n", + "2022 болезнь бержа нефропатия идиопатический возвра... \n", + "2023 лата гельминтоз кожа внутренний орган человек ... \n", + "2024 диабет взрослый тип молодая диабет тип modyдиа... \n", + "2025 англоязычный синоним русскоязычный некорректны... \n", + "2026 редкий патология случайный ложный паразитизм м... \n", + "2027 птичий клещевой дерматит акариаз кожа клещ пти... \n", + "2028 синдром лихорадка афтозный стоматит фарингит ш... \n", + "2029 мужчина англ синдром посторгазмический недомог... \n", + "2030 ринониссидоз птица заболевание птица паразитич... \n", + "2031 синдром аутосомнорецессивный заболевание карио... \n", + "2032 vldlrассоциированный мозжечковый гипоплазия ан... \n", + "2033 эндотелиальный дистрофия роговица англ краина ... \n", + "2034 связанный ихтиоз ихтиоз рецессивный кожный заб... \n", + "2035 xxдисгенезия гонада тип женский гипогонадизм ф... \n", + "\n", + "[2036 rows x 11 columns]" + ] + }, + "execution_count": 230, + "metadata": {}, + "output_type": "execute_result" + } + ], + "source": [ + "data_df" + ] + }, + { + "cell_type": "markdown", + "metadata": {}, + "source": [ + "## Load data" + ] + }, + { + "cell_type": "code", + "execution_count": null, + "metadata": {}, + "outputs": [], + "source": [] + }, + { + "cell_type": "code", + "execution_count": null, + "metadata": {}, + "outputs": [], + "source": [] + }, + { + "cell_type": "code", + "execution_count": null, + "metadata": {}, + "outputs": [], + "source": [] + }, + { + "cell_type": "code", + "execution_count": 239, + "metadata": {}, + "outputs": [], + "source": [ + "dataset_df = pd.DataFrame(\n", + " index=df.title,\n", + " columns=[\"raw_text\", \"vw_text\"]\n", + ")\n", + "dataset_df[\"raw_text\"] = texts\n", + "dataset_df[\"vw_text\"] = (df['title']\n", + " + \" |@text \" + data_df['lemmatized']\n", + " + \" |@ngram \" + data_df['ngramms']\n", + " + \" |@letter \" + df['class_letter'].astype(str)\n", + " ).values\n" + ] + }, + { + "cell_type": "code", + "execution_count": 240, + "metadata": {}, + "outputs": [ + { + "data": { + "text/html": [ + "
\n", + "\n", + "\n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + " \n", + "
raw_textvw_text
title
Синдром_SERKALСиндром SERKAL — аутосомно-рецессивное заболев...Синдром_SERKAL |@text синдром serkal аутосомно...
VLDLR-ассоциированная_мозжечковая_гипоплазияVLDLR-ассоциированная мозжечковая гипоплазия (...VLDLR-ассоциированная_мозжечковая_гипоплазия |...
X-связанная_эндотелиальная_дистрофия_роговицыX-связанная, или X-сцепленная, эндотелиальная ...X-связанная_эндотелиальная_дистрофия_роговицы ...
X-связанный_ихтиозX-связанный ихтиоз (X-сцепленный ихтиоз) — X-с...X-связанный_ихтиоз |@text связанный ихтиоз <pe...
XX-дисгенезия_гонадXX-дисгенезия гонад — тип женского гипогонадиз...XX-дисгенезия_гонад |@text xxдисгенезия гонада...
\n", + "
" + ], + "text/plain": [ + " raw_text \\\n", + "title \n", + "Синдром_SERKAL Синдром SERKAL — аутосомно-рецессивное заболев... \n", + "VLDLR-ассоциированная_мозжечковая_гипоплазия VLDLR-ассоциированная мозжечковая гипоплазия (... \n", + "X-связанная_эндотелиальная_дистрофия_роговицы X-связанная, или X-сцепленная, эндотелиальная ... \n", + "X-связанный_ихтиоз X-связанный ихтиоз (X-сцепленный ихтиоз) — X-с... \n", + "XX-дисгенезия_гонад XX-дисгенезия гонад — тип женского гипогонадиз... \n", + "\n", + " vw_text \n", + "title \n", + "Синдром_SERKAL Синдром_SERKAL |@text синдром serkal аутосомно... \n", + "VLDLR-ассоциированная_мозжечковая_гипоплазия VLDLR-ассоциированная_мозжечковая_гипоплазия |... \n", + "X-связанная_эндотелиальная_дистрофия_роговицы X-связанная_эндотелиальная_дистрофия_роговицы ... \n", + "X-связанный_ихтиоз X-связанный_ихтиоз |@text связанный ихтиоз