He was the fifth son and sixth child of the seven children of Grand Duke Michael Nicolaievich of Russia and his wife Grand Duchess Olga Feodorovna, born Princess Cecile of Baden.
Chiamato Sergej in onore di San Sergio di Radonež, egli trascorse la sua infanzia nel Caucaso, fino al 1881 quando la sua famiglia si trasferì a San Pietroburgo.