I musulmani trasformarono metà della chiesa di San Giovanni nella moschea del Venerdì della città (Grande Moschea di al-Nuri) e Homs divenne presto un centro di pietà islamica poiché circa 500 compagni di Maometto si stabilirono lì dopo la sua conquista. Le tombe di Khalid ibn al-Walid, suo figlio Abd al-Rahman e Ubayd Allah, figlio del califfo Umar, si trovano nella città. Durante il conflitto
tra gli Omayyadi e Ali, gli abitanti di Homs si allearono con Ali e quando quest'ultimo fu sconfitto, il califfo Omayyadi Mu'awiyah divise la metà settentrionale di Jund Hims per formare un distretto separato, Jund Qinnasrin, apparentemente come punizione. L'oratorio di Ali ("mash-had 'Ali") si trovava nella città, e la tradizione islamica afferma che le sue impronte digitali sono incise su di esso. Nonostante la repressione degli Umayyadi, Homs rimase un centro dell'Islam sciita per un po' di tempo. Come roccaforte dei Banu Kalb, la città fu coinvolta nei conflitti di quest'ultimo con la fazione tribale dei Qays. L'ultimo califfo degli Umayyad, Marwan II, godette del sostegno dei Qais e successivamente distrusse le mura della città in risposta a una ribellione dei Banu Kalb.