Ten svou relativně jednoduchou myšlenou postavenou za zkušenostech a chápání cizých jazyků (sám pocházel z pohraničního regionu, kde si všímal, jakým způsobem lze chápat jiný jazyk – polštinu), podstatně zlepšil výkonnost strojových překladačů.
V roce 2014 Google představil Word2Vec, metodu pro vytváření vektorových reprezentací slov na základě kontextu. Toto umožnilo strojům lépe chápat význam a kontext slov, což přispělo k pokroku v oblasti zpracování přirozeného jazyka. Autorem konceptu byl český výzkumník a programátor Tomáš Mikolov. Ten svou relativně jednoduchou myšlenou postavenou za zkušenostech a chápání cizých jazyků (sám pocházel z pohraničního regionu, kde si všímal, jakým způsobem lze chápat jiný jazyk – polštinu), podstatně zlepšil výkonnost strojových překladačů. Z těchto modelů vychází i pozdější modely GPT.