Escriu una continuació per a aquest paràgraf - En l'esclat de la Guerra Civil Osterhaus va ser nomenat major de la 2a Infanteria Voluntària de Missouri i durant el primer any de la guerra va ser empleat a Missouri i Arkansas, on va prendre part en la Batalla de Wilson's Creek i Batalla de Pea Ridge. A Pea Ridge va comandar les tropes que van fer el primer contacte amb les forces confederades que avançaven a l'esquerra de la Unió. Va ser ascendit a general de brigada el 9 de juny de 1862. El 1863 comandà una divisió a la Batalla de Port Gibson.
, on va mostrar habilitat tàctica en espiar els defensors confederats fora d'una posició favorable.