Grindlay värväytyi Boonvillestä 8. syyskuuta 1862 kolmivuotiseen palvelukseen liittoarmeijassa. Hän liittyi 146. New Yorkin jalkaväkirykmentin D-ryhmään kapteenina. Toukokuussa ja kesäkuussa 1864 rykmentti osallistui kenraali Ulysses S. Grantin maankampanjaan Virginiassa. Toukokuun ensimmäisellä viikolla käytyyn erämaassa käytyyn taisteluun 146. Sekä rykmentin komentaja että toinen komentaja kuolivat taistelussa, jolloin Grindlay jäi ylimmäksi upseeriksi. Hän otti rykmentin komennon ja johti sitä Spotsylvania Court Housen taistelussa, joka seurasi välittömästi. Grindlay johti 146. rykmenttiä koko kampanjan ajan, mukaan lukien Pohjois-Annan taistelut, Totopotomoy Creek
Ja Cold Harbourissa.