De tornada a Txetxènia, Umarov va substituir a Isa Munayev en el càrrec de comandant del Front Sud-oest (que va incloure uns 1.000 combatents el 2004), la regió militar al sud-oest de Grozny que limitava amb Geòrgia i Ingushetia. Va ser considerat com un aliat de Shamil Basayev, llavors basat al districte sud-oriental de Vedensky. El 2003, Umarov va liderar els seus homes en els intensos combats al voltant de la ciutat de Shatoy i, segons les fonts russes, va ordenar el bombardeig de la seu de l'FSB d'Ingushetia a la capital ingusa de Magas i l'atac a les instal·lacions d'infraestructura elèctrica a la ciutat de Kislovodsk a Stavropol Krai. Després de la mort de Gelayev el febrer de 2004, molts dels seus homes restants es van unir al grup d'Umarov. L'estiu següent, juntament amb Basayev, Umarov va ser un dels líders d'una incursió a gran escala
per combatents txecenos i ingus que van matar a desenes de funcionaris i membres de les forces de seguretat d'Ingushetia i van prendre el control de la ciutat més gran de la república, Nazran.