Herbert Vítor Levy nasceu na cidade de São Paulo no dia 2 de novembro de 1911, filho de Alberto Eduardo Levy e de Ana de Martino Levy. Seu pai, natural da ilha de Malta, foi professor, major da Guarda Nacional e vice-cônsul inglês em São Paulo.
Em sua cidade natal, fez os estudos primários na Escola Modelo Caetano de Campos e os secundários na Escola Normal de São Paulo, pela qual se formou em 1926. Desde cedo se interessou pela política partidária, ingressando em março de 1927 no Partido Democrático (PD) de seu estado, agremiação criada em fevereiro do ano anterior por uma ala dissidente do Partido Republicano Paulista (PRP), então situacionista. Ainda em 1927, tornou-se repórter do São Paulo Jornal, periódico ligado ao PRP. Partidário da Aliança Liberal, em 1930 apoiou o movimento revolucionário promovido pelos aliancistas, que destituiu o presidente Washington Luís e colocou Getúlio Vargas na chefia do governo provisório.
No poder, Vargas iniciou a nomeação de interventores para os governos estaduais. A escolha do tenente João Alberto Lins de Barros para a interventoria de São Paulo significou a marginalização das forças políticas locais que haviam participado da Revolução de 1930, em especial do PD. Com isso, estabeleceu-se o conflito entre essas correntes, de um lado, e as forças tenentistas e o governo federal, de outro. O movimento de oposição ao governo provisório cresceu progressivamente no estado, ao longo dos anos de 1931 e 1932, culminando em 9 de julho desse último ano com a deflagração da Revolução Constitucionalista. Levy participou desse movimento armado, chegando a comandar, na patente de capitão, a coluna Romão Gomes, no setor de Campinas.