La città fu fondata nel 1890 dalla Pioneer Column, una piccola forza militare della British South Africa Company, e chiamata Fort Salisbury dal nome del primo ministro britannico Lord Salisbury. Gli amministratori della compagnia demarcarono la città e la gestirono fino a quando la Rhodesia meridionale ottenne un governo responsabile nel 1923.
1982, quando fu ribattezzata Harare