Gilbert liittyi vapaaehtoisjoukkoon myöhemmin kuin monet hänen aikalaisensa, lokakuussa 1862. Siitä huolimatta hänet nimitettiin 27. vapaaehtoisen jalkaväkirykmentin everstikseksi lokakuun 3. päivänä 1862. Gilbertin rykmentti osallistui Frederick Steelen
Little Rock Expedition, mutta ei ollut mukana missään taistelussa. Hänet lähetettiin varuskuntaan Arkansasissa ja siirrettiin sitten Mississippiseen, jossa hänen rykmenttinsä liitettiin Andrew J. Smithin divisioonaan XVI-joukkueessa Meridian-retkellä.