Vicksburgin kaatumisen jälkeen Osterhaus siirrettiin Tennesseen. Chattanoogassa hän auttoi kenraalimajuri Joseph Hookeria
Lookout-vuorella. Osterhaus osallistui sitten Atlantan kampanjaan, mutta kuukauden mittainen sairausluma aiheutti hänen jäävän väliin ratkaisevasta Atlantan taistelusta. Hän kuitenkin palasi komennolle ja oli merkittävässä roolissa Jonesboroughin taistelussa. Atlantan valloituksen jälkeen hän sai komennon XV-joukoista, yhdestä neljästä joukoista, joihin armeija yhdistettiin Shermanin marssi mereen. Maaliskuussa 1865 Osterhaus nimitettiin sotilasosaston päälliköksi Länsi-Mississippin sotilasosastolle majuri kenraali Edward Canbyn johdolla, komentajalle, jolla oli vähän taistelukokemusta ylimmässä johdossa. Osterhaus palveli Canbyä Espanjan ja Blakelyn linnoituksen taisteluissa. Kun Edmund Kirby Smith antautui Konfederaation joukkoille Trans-Mississippi-teatterissa, Osterhaus lähetettiin Canbyn edustajaksi ja allekirjoitti asiakirjat unionin armeijan puolesta.