Stone combatté nelle principali battaglie della Guerra Civile a Savage Station.
Antietam, Chancellorsville e Gettysburg. Dopo aver subito una grave ferita ad Antietam, fu nominato secondo tenente. Dopo la sua terza ferita a Gettysburg, fu assegnato a una posizione amministrativa a Filadelfia.