Completate la seguente frase: Quando la guerra civile iniziò nel 1861, Smith servì come aide de camp del governatore dell'Illinois Richard Yates. Il 26 dicembre 1861 fu nominato colonnello del 45° Reggimento di fanteria volontaria dell'Illinois, con il grado retroattivo al 23 luglio 1861 per sostituire il precedente colonnello che si dimise dalla sua commissione statale quando il reggimento entrò in servizio federale. Guidò il suo reggimento nelle battaglie di Fort Henry, Fort Donelson e Shiloh. Il 29 novembre 1862 fu promosso brigadiere generale dei Volontari degli Stati Uniti. Ha comandato brevemente una brigata prima di prendere il comando della 8a divisione, XVI Corpo. Quando Ulysses S. Grant iniziò la sua ultima campagna contro Vicksburg, Smith fu posto al comando della 1a Brigata, 3a Divisione, XVII Corpo. Ha combattuto nelle battaglie di
Port Gibson, Raymond, Champion Hill e negli assalti a Vicksburg. Nel giugno 1863, nel bel mezzo dell'assedio di Vicksburg, Smith fu scelto per sostituire il generale Isaac F. Quinby al comando della 7a divisione, XVII Corpo dopo che Quinby si era ammalato e si era preso un congedo. Nel settembre 1863 Smith fu trasferito al comando della 2a Divisione, XVII Corpo e la sua divisione fu inviata con William T. Sherman per aiutare nel sollievo di Chattanooga. Durante la battaglia di Missionary Ridge, Smith prese parte agli attacchi contro il fianco destro confederato a Tunnel Hill.