Jochen Rindt syntyi 18. huhtikuuta 1942 Mainzissa Itävaltalaiselle äidille ja saksalaiselle isälle. Hänen äitinsä oli nuoruudessaan ollut menestyksekäs tenniksenpelaaja ja opiskellut lakia isänsä tavoin. Rindtin vanhemmat omistivat maustemyllyä Mainzissa, jonka hän myöhemmin peri. He kuolivat pommi-iskussa Hampurissa.
toisen maailmansodan aikana, kun hän oli 15 kuukauden ikäinen. Sen jälkeen hänet kasvattivat hänen isoisänsä Grazissa Itävallassa. Vaikka hänen isoisänsä päätti säilyttää Rindtin saksalaisen kansalaisuuden, hän ajoi koko uransa aikana Itävallan kilpailuoikeudella. Eräässä haastattelussa hän kuvaili perintöään "kauhistuttavaksi sekoitukseksi" ja kun häneltä kysyttiin, tunsiiko hän itsensä enemmän itävaltalaiseksi vai saksalaiseksi, hän sanoi tuntevansa itsensä "eurooppalaiseksi". Rindtilla oli yksi velipuoli, Uwe, äitinsä kautta.