New Yorkeko jaiotzez, Belknap Princetongo Unibertsitatean graduatu zen 1848an, Zuzenbidea ikasi zuen Georgetowneko abokatu batekin, eta 1851an onartu zuten. Iowara joan zen bizitzera, eta bertan jardun zuen Ralph P. Lowe-rekin batera. Belknap demokrata bezala sartu zen politikan eta Iowako Ordezkarien Ganberan jardun zuen. 1861ean AEBetako Gerra Zibila hasi zenean, Belknap Batasuneko Armadara joan zen. Gizon altu eta sendoa, Belknap berezkoa zen Armadako buruzagi eta erreklutatzaile gisa. Kapitain maila lortu zuen Iowako Miliziako beteranoa zen, eta 15. Iowako Boluntario Infanteriako maiore izendatu zuten. Hainbat borrokatan parte hartu zuen, tartean Shiloh.
eta Korinton, erregimentu, brigada, dibisio eta korpusen komandante izan zen, eta goi mailako karguetan aritu zen. Gerraren amaieran, Belknap boluntarioen brigadako jenerala izendatu zuten eta generala maiorrera igo zuten.