Com o sucesso do álbum What's Going On, a Motown renegociou um novo contrato com Marvin que permitiu a ele o controle artístico de seu trabalho, no valor de US$1 milhão, fazendo do cantor o mais bem pago artista negro da história da música[13]. Além disso, Gaye ajudou a libertar o trabalho criativo de outros artistas da Motown, entre os quais Stevie Wonder. Ainda naquela época, Marvin mudou-se de Detroit para Los Angeles em 1972 após receber uma proposta para escrever a trilha-sonora para um filme blaxploitation. Escrevendo as letras, criando os arranjos e produzindo o LP para o filme "Trouble Man", Marvin lançou o álbum e a canção homônimas, que atingiram o Top 10 Pop da Billboard em 1973. Depois de passar por um período complicado quanto aos rumos de sua carreira, Marvin decidiu mudar o conceito lírico das composições. O LP "Let’s Get it On" trazia uma temática menos social e mais pessoal da vida de Marvin. Conflitos com o pai, dúvidas existenciais e questões sobre a vida particular do compositor fazem parte do álbum. O LP foi um dos trabalhos mais bem sucedidos de sua carreira e o seu maior sucesso de vendas, superando "What's Going On". A faixa-título chegou ao topo da parada pop da Billboard e bateu o recorde de vendagens da Motown, que pertencia ao próprio Marvin com "I Heard It Through the Grapevine". Outros destaques do LP foram as canções "Come Get to This", "You Sure Love to Ball" e "Distant Lover".[14]
Gaye começou a trabalhar naquele que seria seu último álbum dueto, desta vez com Diana Ross. O projeto do LP "Diana & Marvin" teve início em 1972, mas houve atrasos no andamento do álbum. Com Diana grávida pela segunda vez, Gaye recusava-se a cantar se ele não pudesse fumar no estúdio. Então, os dois realizaram as gravações em dias separados. Lançado no segundo semestre de 1973, o álbum rendeu vários sucessos, entre os quais "You're a Special Part of Me", "My Mistake (Was to Love You)" e as versões para "You Are Everything" e "Stop, Look, Listen (To Your Heart)", ambas hits do grupo The Stylistics. Em 1975, Marvin começou a pensar em seu próximo disco solo, mas o divórcio com Anna Gordy tomou boa parte do seu tempo. O fim do casamento levou Gaye a várias audiências nos tribunais. O disco "I Want You" foi finalizado somente no ano seguinte. O álbum levou a faixa-título "I Want You" ao topo da parada R&B da Billboard.
Em 1977, a Motown lançou o single de "Got to Give It Up", que se tornou primeiro lugar nas lista Pop, R&B e Dance da Billboard, e o LP ao vivo "Live at the London Palladium", álbum que vendeu em torno de duas milhões de cópias - se tornando um dos mais vendidos daquele ano. No ano seguinte, finalmente Marvin consegue se divorciar de sua primeira esposa Anna. Como resultado do acordo judicial, Gaye foi ordenado a pagar pensão alimentícia - ele concordou em ceder parte de seu salário e das vendas do seu álbum seguinte para pagar essa pensão. O resultado foi o LP duplo "Here, My Dear", que explorou o relacionamento do casal em detalhes tão íntimos que quase levou Anna a processá-lo por invasão de privacidade, mas ela desistiu dessa decisão. O LP fracassou nas listas de sucesso e Gaye se esforçou para vender o disco. Em 1979, Gaye se casou pela segunda vez, agora com Janis Hunter, com quem teve dois filhos, Frankie e Nona), e começou a trabalhar em um novo álbum, "Lover Man". Mas o projeto foi abortado depois do fracasso do single "Ego Tripping Out". Reclamando de problemas com impostos e de vício em drogas, Gaye pediu falência e se mudou para o Hawaii, onde ele vivia em um furgão.
Em 1980, ele assinou com o promotor britânico Jeffrey Kruger para realizar concertos no Reino Unido. Mas Gaye não conseguiu chegar em tempo ao palco. Quando ele chegou, todos já haviam deixado o concerto. Em Londres, Marvin trabalhou no LP "In Our Lifetime?", uma complexa e profunda gravação pessoal. Quando a Motown lançou o disco em 1981, Gaye ficou lívido: ele acusou a gravadora de editar e remixar o álbum sem seu consentimento, lançando uma canção inacabada ("Far Cry"), alterando a arte do LP que ele requisitara e removendo o ponto de interrogação do título (dessa forma, alterando sua conotação irônica).
Depois de oferecida uma nova chance em Ostend, Bélgica, Marvin mudou-se para lá ainda em 1981. Ainda perturbado pela decisão precipitada da Motown em lançar "In Our Lifetime", ele negociou sua saída da gravadora e assinou com a Columbia Records no ano seguinte, onde lançou "Midnight Love". O disco incluía o grande sucesso "Sexual Healing", que lhe rendeu seus primeiros dois prêmios Grammy (de Melhor Performance R&B Masculina e Melhor R&B Instrumental), em fevereiro de 1983. Ele também seria indicado aos mesmos prêmios no ano seguinte pelo LP "Midnight Love". Também em fevereiro de 1983, Gaye fez uma apresentação memorável no All-Star Game da NBA, interpretando o Hino Nacional dos Estados Unidos. No mês seguinte, ele fez sua última apresentação para seu antigo mentor no concerto "Motown 25", apresentando "What's Going On". Depois, ele embarcou em uma turnê pelos EUA divulgando seu recente trabalho. Terminada a turnê, em agosto de 1983, ele estava atormentado por problemas de saúde - ele teve acessos de depressão e medo em torno de uma suposta tentativa de lhe tirarem a vida.
Quando a turnê foi encerrada, ele se isolou e se mudou para a casa de seus pais. Ele ameaçou cometer suicídio diversas vezes, depois de numerosas e amargas brigas com seu pai, Marvin Pentz Gay Sr. Em 1 de abril de 1984, um dia antes de completar seu 45º aniversário, Marvin foi assassinado com um tiro por seu próprio pai, após uma briga iniciada quando os pais de Marvin discutiam sobre a perda de documentos de negócios. A ironia é que Marvin foi morto por uma arma que ele próprio havia dado de presente para seu pai. Marvin Pentz Sr. foi condenado a seis anos de prisão, após ser declarado culpado por homicídio. A acusação de assassinato foi abandonada após médicos descobrirem que ele estava com um tumor cerebral. Marvin Pentz Sr passou o final de sua vida em um asilo, onde morreria de pneumonia em 1998.
Após alguns lançamentos póstumos, que fortaleceram a memória de Marvin na consciência popular, o cantor foi introduzido ao Rock and Roll Hall of Fame em 1987. Mais tarde, também ao Hollywood's Rock Walk e, em 1990, ganharia uma estrela na Calçada da Fama de Hollywood.