„Im Vordergrund stehen in dieser Gruppe die Untersuchung der ''Entropie,'' die Phonem- und Graphemstatistik sowie Untersuchungen von Texteigenschaften und die Automatische Übersetzung.“<ref>Sebastian Kempgen: ''Russische Sprachstatistik. Systematischer Überblick und Bibliographie.'' Sagner, München 1995, Seite 15. ISBN 3-87690-617-2. </ref>
{{K|Informatik}} Maß für den mittleren Informationsgehalt einer Menge von Zeichen