"... O sertão se inicia aqui". Assim escreveu o grande Guimarães Rosa em referência à Oliveira. Foi devido a uma estratégica localização é que surgiu o povoado que viria dar origem à cidade. Essa povoação na época colonial se encontrava entre a Vila de São João Del Rei, sede da extensa Comarca do Rio das Mortes, e o sertão do Alto Paranaíba, caminho para as minas de Goiás.
As primeiras notícias oficiais que se tem da antiga localidade remontam à metade do século 18, quando, em 1754, Domingos Viera da Mota recebeu uma sesmaria em "Paragem do Campo Grande e Picada de Goiás".
Em 1758, a sesmaria de Domingos Vieira foi arrematada por André Diniz Linhares. No documento de diplomação, já há uma referência à Capela de Nossa Senhora de Oliveira. Poucos anos depois, têm-se referências sobre vários moradores que obtiveram sesmarias como: Josefa Maria de Sá, em 1765; Dr. João Antônio da Silva Leão, 1768; Antônio Ribeiro de Morais Castro, 1768; e Antônio Martins, em 1771.
Devido ao movimento de tropeiros e viajantes que iam e viam pelos sertões das Gerais, o povoado ganhou novos moradores e novas casas, surgiram vendas e capelas. No dia 16 de março de 1839, a freguesia foi elevada à Vila de Nossa Senhora da Oliveira, e pela lei provincial Nº 1102, de 19 de setembro de 1861, a Vila foi elevada à Cidade com o nome de Oliveira.
A devoção à Nossa Senhora da Oliveira sempre foi muito popular em Portugal. Prova disso são as inúmeras paróquias a ela dedicadas nesse país. Em Minas Gerais, a devoção a Senhora da Oliveira chegou com os aventureiros que afluíam para a Capitania das Minas em busca do ouro e acabou dando nomes a algumas localidades como: o Arraial de Nossa Senhora da Oliveira do Piranga, Capela de Nossa Senhora da Oliveira de Borda do Campo, Capela de Nossa Senhora da Oliveira na freguesia do Sumidouro. Em Portugal, Nossa Senhora da Oliveira era invocada como padroeira dos oficiais confeiteiros, carpinteiros de carruagem e de carros em geral e dos picheleiros.
A cidade orgulha-se de ser o berço de um dos maiores cientistas brasileiros, Carlos Justiniano Ribeiro das Chagas, descobridor da doença que leva o seu sobrenome. Ela também faz questão de cultivar suas tradições religiosas e culturais. A Festa de Nossa Senhora do Rosário é considerada uma das mais autênticas de Minas Gerais. É o único local que possui o quartel general das guardas de congo de Minas Gerais. As celebrações em homenagem à padroeira, à Semana Santa e ao mês de Maria também são realizadas com toda fé. Quando o assunto é manifestação popular, o ótimo carnaval agita toda a região com seus blocos e escolas de samba.
Construções religiosas e civis do século 18, 19 e 20 compõem o significativo patrimônio histórico da cidade, que vem sendo preservado e tem valorizado todas as fases da história e cultura oliveirense.