Scrivi una continuazione per questo paragrafo - Il 22 agosto 1861, Rice si unì al 14° Reggimento di Fanteria del Massachusetts e fu nominato capitano. Fu presto trasferito al 19° Reggimento di Fanteria del Massachusetts per comandare la Compagnia F. Con quell'unità fu coinvolto nelle battaglie della Guerra Civile di: Ball's Bluff, Assedio di Yorktown, Fair Oaks
Stazione Savage, Glendale e Malvern Hill. Fu promosso al grado di maggiore il 7 settembre 1862 e combatté ad Antietam più tardi nel settembre 1862 e nella battaglia di Fredericksburg l'11-13 dicembre 1862. Per le sue azioni nella battaglia di Gettysburg nel respingere la carica di Pickett, gli fu conferita la Medaglia d'Onore nel 1891. Promosso tenente colonnello il 28 febbraio 1864, comandò il suo reggimento nella Campagna di Rapidan, nelle battaglie di Bristoe Station, Blackburn's Ford, Robinson's Cross Roads e Mine Run. Ha comandato il 19° nella battaglia del Wilderness il 5-7 maggio 1864 e nella battaglia di Laurel Hill l'8 maggio 1864. Fu ferito e catturato nell'assalto alla battaglia di Spotsylvania Court House, il 12 maggio 1864. Mentre era trasportato come prigioniero il 23 maggio, fuggì tagliando la porta di un vagone merci e saltando da esso mentre il treno si muoveva a 15 mph. Raggiunse le linee dell'Unione, vicino al fiume Ohio, ventitré giorni dopo. Fu promosso colonnello il 28 luglio 1864.