Amerikan sisällissodan alussa Bunn värväytyi Pennsylvanian 72. jalkaväkirykmenttiin. 29. kesäkuuta 1862, Savage's Stationin taistelun aikana
Hän haavoittui ja konfederaation joukot vangitsivat hänet. Bunnia pidettiin sotavankina Richmondissa, Virginiassa, kunnes hänet vapautettiin vankienvaihdon aikana myöhemmin samana vuonna. Palattuaan Philadelphiaan Bunnilla oli haavan aiheuttamat ongelmat, ja hänet vapautettiin sairaalasta.