AEBetako armadako apaiz baten semea zen Groves. 1918an, West Pointeko AEBetako Akademia Militarreko bere ikasturteko laugarren graduatu zen eta AEBetako Armadako Ingeniaritza Gorputzean sartu zen. 1929an, Nikaragura joan zen espedizio batean parte hartzeko, Ozeano arteko Nikaraguko Kanalaren inguruko azterketa bat egiteko. 1931ko lurrikararen ondoren
, Groves-ek Managuako ur hornidura sistema hartu zuen, eta horregatik Nikaraguako Merituaren Lehendakariaren Domina eman zioten. 1935ean eta 1936an Fort Leavenworth-en, Kansas-en, Komando eta Estatu Nagusiaren Eskolan ikasi zuen; eta 1938an eta 1939an Armadako Gerrako Unibertsitatean, ondoren, Gerrako Estatu Nagusian jarri zen. Groves-ek "eraikitzaile, gidari eta betebeharraren jarraitzaile gisa" ospea lortu zuen eta 1940an Quartermaster General-en eraikuntzako laguntzaile berezia bihurtu zen, eraikuntza-guneak ikuskatzeko eta haien aurrerapena egiaztatzeko. 1941eko abuztuan agindu zioten bulego erraldoia eraikitzeko Pentagonoa osatuko zuten 40.000 langileentzat.