La ville de Mary trouve ses origines au av. J.-C., ce qui en fait une des plus anciennes villes d'Asie centrale. Elle fut fondée par Alexandre le Grand en -328 sous le nom d'Alexandrie de Margiane. Elle servit de base arrière lors des dures campagnes que mena Alexandre contre Spitaménès dissident Achéménides.