Gardner va assistir a les escoles del districte local i va passar dos anys com a estudiant al Seminari de Genesee i Wyoming. A l'agost de 1862, durant la Guerra Civil Americana, es va alistar a la Companyia C del 130è Regiment d'Infanteria de Nova York. El regiment més tard es va convertir en el 19è Regiment de Cavalleria de Nova York i després el 1r Regiment de Dragons de Nova York. Inicialment era un caporal de la companyia, més tard va ser ascendit a sergent. A la tardor de 1864, durant les campanyes de la Vall de 1864
, va perdre la seva cama dreta, que va ser amputada a l'Hospital de Camden Street a Baltimore. Després de l'amputació, es va produir una gangrena i va ser necessari operar-lo una segona vegada. Va ser lliurat de l'exèrcit l'abril de 1865. Després de tornar a Àtica, va ser nomenat funcionari postal a l'Erie Railway, un càrrec que va ocupar durant els següents tres anys.