Goltz syntyi Züllichau'ssa, Brandenburgissa. Hän oli kenraalimajuri, joka komensi Ranskan jalkavartiolaitoksen saksalaista jalkaväkidivisioonaa. Hänet siirrettiin maaliskuussa 1918 Suomeen auttamaan nationalistista hallitusta sisällissodassa.
Suomen "punaisia" ja Neuvostoliiton joukkoja vastaan. Hän komensi saksalaista tutkimusyksikköä ("Baltic Sea Division"), joka laskeutui Hankoon, Suomeen, 3. ja 5. huhtikuuta 1918 välillä ja marssi sitten sosialistien hallinnassa olevaan pääkaupunkiin Helsinkiin, joka antautui Helsingin taistelun jälkeen 13. huhtikuuta 1918. Saksan sotilaallinen väliintulo auttoi Suomen kansallismielistä hallitusta saamaan vallan suurimmasta osasta maata toukokuuhun 1918 mennessä. Goltz pysyi joukkojensa kanssa Suomessa sisällissodan jälkeen joulukuuhun 1918 saakka ja hänellä oli suuri poliittinen vaikutusvalta maassa. Valkoisen armeijan päällikkö Hannes Ignatius kuvaili häntä "Suomen todelliseksi hallitsijaksi". Kesällä 1918 Goltz halusi korvata suomalaiset valkoiset joukot uudella suomalaisella värväysarmeijalta, jossa kaikki johtotehtävät olisivat saksalaisten upseerien alaisia ja värväysmiehet olisi koulutettava saksalaisten armeijan standardien mukaisesti. Suomalaiset kenraalit Ignatius, von Gerich ja Theslöf erosivat protestoina. Saksalaiset halusivat käyttää suomalaisia joukkoja Murmanskiin ja Arkhangelsiin sekaantuneita liittoutuneita vastaan.