Quando la convention statale si riunì nell'aprile del 1880, Randall era sicuro della vittoria, ma presto scoprì che la fazione di Wallace era numericamente superiore alla sua. La maggioranza di Wallace sconvolse l'organizzazione del partito a Filadelfia e, sebbene alcuni sostenitori di Randall ottenessero dei seggi, la maggioranza doveva fedeltà al senatore. Nonostante la sconfitta, Randall perseverò per Tilden, sia in Pennsylvania che altrove. Mentre circolavano voci che la salute di Tilden gli avrebbe impedito di candidarsi di nuovo, Randall rimase un leale uomo di Tilden fino alla convention nazionale.
quel giugno. Dopo la prima votazione, la delegazione di New York ha pubblicato una lettera di Tilden in cui si ritirava dalla discussione. Randall sperava che gli ex delegati di Tilden si unissero a lui. Molti lo fecero, e Randall salì al secondo posto al secondo turno di votazione, ma lo slancio si era spostato su un altro candidato, il maggiore generale Winfield Scott Hancock. Quasi tutti i delegati si sono spostati su Hancock, ed e' stato nominato.