La mobilitazione del 1870 all'inizio della guerra franco-prussiana lo mise a capo del VIII (Rhineland) Corpo d'Esercito, che faceva parte della Prima Armata sotto von Steinmetz. Fu la sua guida risoluta ed energetica a contribuire principalmente alla vittoria a Spicheren
il 6 agosto, e von Goeben vinse gli unici allori ottenuti sull'ala destra prussiana a Gravelotte il 18 agosto. Sotto Manteuffel, il VIII Corpo partecipò alle operazioni su Amiens e Bapaume, e l'8 gennaio 1871, Goeben succedette a quel generale al comando della Prima Armata.