Belgrave a été nommé d'après le Mont Belgrave, une maison construite par une famille des premiers colons, les Bensons. La famille était liée à la chapelle Belgrave de Leeds, dans le Yorkshire, en Angleterre. Ils ont conservé ce nom lorsqu'ils sont venus à Melbourne en 1856.