Gillman, istruito al Dulwich College, fu commissionato nella Royal Field Artillery nel luglio 1889. Fu promosso tenente il 27 luglio 1892 e capitano (sovranumerario all'establishment) il 9 ottobre 1899. Ha prestato servizio nella seconda guerra boera 1899-1900, dove ha preso parte al sollievo di Kimberley e alle seguenti battaglie di Paardeberg.
(fine febbraio 1900), Poplar Grove e Driefontein (marzo 1900). Alla fine del 1901 si trovava nel sud della Nigeria, dove fu assegnato come ufficiale di stato maggiore alle colonne che partecipavano alla guerra Aro-Anglo (da novembre 1901 a marzo 1902), per la quale fu menzionato nei dispacci dall'ufficiale in comando come un "ufficiale inestimabile, freddo e pieno di energia". Fu anche nominato Compagno del Distinguished Service Order (DSO) per i servizi durante la guerra. Nel maggio 1902 ricevette un appuntamento regolare come capitano della 119 Batteria dell'artiglieria da campo. In seguito trascorse un po' di tempo nel sud della Nigeria nel 1902.