1863 urtean, Elderren bateriak AEBetako Zaldi Artilleria Brigadari esleitu zitzaion, non gerraren gainerako denbora gehienetan zerbitzatu zuen. 1863ko abuztuaren 1ean kapitaina izendatu zuten. 1864ko otsailean, Elderrek Floridako Olustee-ko guduan izandako ausardiagatik jaso zuen saria, eta maiorreko promozioa eman zioten. Zaldi Artileriara itzuli zenean, berriz ere Drewry's Bluff-en egindako ekintzetarako deitu zuten.
1864ko maiatzaren 5ean, teniente koronela izendatu zuten. Gerraren ostean ere armadan jarraitu zuen eta 1882ko ekainaren 30ean 2. Estatu Batuetako Artilleriako maiore izendatu zuten.