Scrivi una continuazione per questo paragrafo - Alle Olimpiadi estive del 2012 a Londra, Grevers ha vinto un totale di tre medaglie: due d'oro e una d'argento. Grevers ha guadagnato la sua prima medaglia, una medaglia d'argento, nuotando per la squadra statunitense al secondo posto nelle fasi preliminari della staffetta 4×100 metri stile libero. Nella finale, la squadra americana è arrivata seconda dietro la Francia. Lavorando in squadra con Jimmy Feigen, Ricky Berens e Jason Lezak, Grevers ha nuotato la seconda tappa e ha registrato un tempo di 47.59. Dopo aver guidato le heat (52,92) e le semifinali (52,66) dei 100 metri a schiena
Nel 2008 Grevers ha vinto l'oro nella finale dei 100 metri schiena con un tempo di 52,16, superando il record olimpico di Aaron Peirsol di 52,54 fissato nel 2008 e 0,76 secondi davanti a Nick Thoman. Per Grevers, era la sua prima medaglia d'oro individuale. Nel suo ultimo evento, la staffetta a medaglia 4 × 100 metri, Grevers ha vinto l'oro con Brendan Hansen, Michael Phelps e Nathan Adrian. Nuotando la gamba dorsale, Grevers ha registrato un tempo di 52,58 secondi, e la squadra degli Stati Uniti ha vinto con un tempo di 3:29,35.