Shymkent perustettiin 12. vuosisadalla karavaanisaaraksi suojellakseen lähellä sijaitsevaa Silk Roadin kauppa-aluetta, Sayramiä, 10 km itään. Shymkent kasvoi turkkilaisten paimentolaisten ja asutujen sogdianien välisen kaupankäynnin markkina-asemaksi. Se tuhoutui useita kertoja: Tšingis-Khanin, eteläisten khanateiden sotilaiden ja paimentolaisten hyökkäysten. 1800-luvun alussa se tuli osaksi Kokandin kahanaattia, ennen kuin venäläiset valtasivat sen.
Vuonna 1864. Se nimettiin uudelleen Chernyaeviksi vuonna 1914 ja nimettiin uudelleen "Shymkentiksi" vuonna 1924. Venäjän valloituksen jälkeen Shymkent oli kauppa-alue, jossa vaihdettiin turkkilaisia muukalaisia ja turkkilaisia asukkaita.