Johnson liittyi armeijaan 15-vuotiaana. Hän oli alun perin rekrytoitu 43. Ohio-jalkaväkirykmentin H-ryhmään. Rykmentti sai komennon XVI armeijakunnan neljännestä diviisiosta, mutta keväällä 1864 Johnson siirrettiin XVII armeijakunnan ensimmäiseen diviisioon. Siellä hän palveli kenraali John W. Spraguen alaisuudessa. 1. toukokuuta 1864 Johnsonin rykmentti liittyi kenraali William Tecumseh Shermanin armeijaan Chattanoogassa. Ensimmäinen taistelu, johon Johnson osallistui, oli Decaturin taistelu. Johnson sai pienen haavan jalkaan vasemman polven yläpuolella.
Resacan taistelu. Johnson osallistui edelleen tuleviin taisteluihin, kuten Dallasin taisteluun, Kennesaw-vuoren taisteluun ja Peachtree Creekin taisteluun. Atlantan kukistumisen jälkeen Johnson toimi kenraali Spraguen sairaanhoitajana, jossa hän palveli kunnes hänet erotettiin sodan lopussa. Sodan jälkeen Johnson muutti takaisin Lorainin piirikuntaan Ohiossa.