Vicksburgin kaatumisen jälkeen Osterhaus siirrettiin Tennesseeseen. Chattanoogassa hän auttoi kenraalimajuri Joseph Hookeria Lookout Mountainin valloittamisessa. Osterhaus osallistui sitten Atlantan kampanjaan, mutta kuukauden mittainen sairausluma aiheutti hänen menettävän ratkaisevan Atlantan taistelun.
- Mitä? Hän kuitenkin palasi komennolle ja oli merkittävässä roolissa Jonesboroughin taistelussa. Atlantan valloituksen jälkeen hän sai komennon XV-joukoista, yhdestä neljästä joukoista, joihin armeija yhdistettiin Shermanin marssi mereen. Maaliskuussa 1865 Osterhaus nimitettiin sotilasosaston päälliköksi Länsi-Mississippin sotilasosastolle majuri kenraali Edward Canbyn johdolla, komentajalle, jolla oli vähän taistelukokemusta ylimmässä johdossa. Osterhaus palveli Canbyä Espanjan ja Blakelyn linnoituksen taisteluissa. Kun Edmund Kirby Smith antautui Konfederaation joukkoille Trans-Mississippi-teatterissa, Osterhaus lähetettiin Canbyn edustajaksi ja allekirjoitti asiakirjat unionin armeijan puolesta.