Nel 1996, Johnson tornò a Baltimora come manager degli Orioles con un contratto triennale da 2,25 milioni di dollari. Gli Orioles erano andati 71-73 l'anno precedente, ma la squadra aveva talenti promettenti per andare con i futuri Hall of Famers Cal Ripken, Jr., Mike Mussina, Eddie Murray e Roberto Alomar. La squadra ha fatto 88-74, finendo quattro partite dietro i New York Yankees nella AL East, ma è stato abbastanza buono per il Wild Card di tre partite. Fu il primo viaggio degli Orioles in post-season dopo aver vinto le World Series del 1983. Gli Orioles incontrarono i Cleveland Indians nella Division Series, il campione in carica dell'American League che aveva vinto 99 partite, le migliori delle major in quella stagione. Gli Orioles hanno vinto le prime due partite prima che Cleveland forzasse la quarta partita con una vittoria, ed erano a un inning di distanza dall'inforzare un'altra prima che gli Orioles si riunissero con un singolo RBI di Alomar, due fuori, e gli diede il vantaggio nel dodicesimo con un fuoricampo che portò Baltimora alla Championship Series
contro i New York Yankees. Gli Orioles conducevano la partita 1 con 4 a 3 nel settimo inning prima che una palla colpita da Derek Jeter venisse illegalmente catturata oltre la recinzione dal tifoso Jeffrey Maier sulle mani di Tony Tarasco che pareggiò la partita. Gli Yankees vinsero la partita nell'undicesimo inning, e mentre gli Orioles si rimettero per vincere la seconda partita, gli Yankees vinsero poi le prossime tre; la terza partita vide un vantaggio sbloccato dagli Orioles nell'ottavo inning che trasformò un vantaggio di 2-1 in una sconfitta di 5-2, mentre gli Yankees segnò tre punti nell'ottavo in gioco 4 per aprire una decisione 8-4, mentre la quinta partita vide gli Yankees segnare tutti i punti di cui avevano bisogno nel terzo inning per una vittoria decisiva 6-4.