Scrivi una continuazione per questo paragrafo - All'inizio della sua carriera Nielsen si è allenato in Finlandia, che all'epoca era il paese leader nella corsa a distanza, e ha imparato dai corridori finlandesi. Ha vinto il suo primo titolo di campione danese ai 5000 m nel 1930. Nielsen ha battuto il record mondiale dei 3000 m a Stoccolma il 25 luglio 1934; ha affrontato il polacco Janusz Kusociński, che deteneva il precedente record di 8:18.8, e lo ha sconfitto. Il tempo vincente di Nielsen fu di 8:18.3; come record mondiale, fu ufficialmente ratificato come 8:18.4, poiché le regole dell'IAAF richiedevano che i tempi alla distanza fossero arrotondati al prossimo quinto di secondo. Più tardi quell'anno, Nielsen vinse il bronzo nei 10.000 m ai primi Campionati europei.
a Torino, perdendo solo contro il finlandese Ilmari Salminen e Arvo Askola; è stato l'unico medaglia della Danimarca nell'incontro.