Williamson si riprese in tempo per prendere parte alla campagna di Vicksburg e al successivo assedio di Vicksburg. Dopo la caduta della città, assunse il comando della 3a Brigata, 1a Divisione, XV Corpo fino a settembre 1863, poi comandò la 2a Brigata, 1a Divisione, XV Corpo nella battaglia di Chattanooga. La divisione di Williamson, comandata da Peter J. Osterhaus fu temporaneamente assegnata alle forze di Joseph Hooker e prese parte alla battaglia di Lookout Mountain
- No, no. La divisione fu restituita all'esercito del Tennessee e Williamson guidò la 2a brigata durante la campagna di Atlanta. Alla battaglia di Jonesborough fu ferito alla mano. Il 19 dicembre 1864 ricevette una promozione brevettuale a brigadiere generale dei volontari statunitensi, il 13 gennaio 1865 una promozione completa a brigadiere generale e il 13 marzo 1865 una promozione brevettuale a maggiore generale dei volontari. Per un breve periodo durante l'estate del 1865 comandò il distretto di St. Louis e fu ritirato dal servizio volontario il 24 agosto 1865, ma era in tour d'ispezione dei posti dell'esercito in Occidente e non lo scoprì fino al suo ritorno nell'ottobre del 1865.