Rumbold si arruolò nella Royal New Zealand Naval Volunteer Reserve e nel 1941 fu accettato per l'addestramento di ufficiali in Inghilterra al Royal Naval College di Greenwich. Dopo essersi laureato si unì al cacciatorpediniere, servendo come sottotenente nei convogli artici. Nel 1943 servì a bordo della Inglefield durante la campagna in Sicilia.
- No, no. Sopravvisse all'affondamento delle navi nel febbraio 1944 durante l'operazione Shingle ed è stato l'ultimo uomo ad abbandonare la nave, aiutando gli altri mezzi dell'equipaggio ad evacuare, per il quale è stato menzionato nei dispacci. Dopo l'affondamento, fu nominato tenente di bandiera del contrammiraglio Gerald Dickens, servendo con lui in Nord Africa, Bruxelles e L'Aia.