La fondation de la première aire urbaine, à l'endroit de la vieille ville actuelle, remonterait aux environs de l'an 900 apr. J.-C. et serait liée au personnage de Shehe Mvita, un Mijikenda musulman ; c'est-à-dire un membre de l'une des neuf tribus établies le long des côtes des actuels Kenya, Somalie et Tanzanie. Sa position d'île côtière sur la route maritime des Indes a tôt fait de Mombasa une place stratégique convoitée par tous, notamment comme port d'embarquement de l'ivoire, de l'or et des épices, ce qui fut à l'origine d'une histoire très agitée pour la ville pendant près de 500 ans.