El 27 de novembre de 1911, O'Connell es va convertir en el primer arquebisbe de Boston en convertir-se en cardenal, i se li va donar el títol de cardenal-sacerdot de S. Clemente. Va arribar tard als dos conclavis papals consecutius, el 1914 i el 1922
, a causa de haver de creuar l'Oceà Atlàntic en el transport més lent del dia. Va fer una protesta al papa Pius XI, que en resposta va allargar el temps entre la mort del papa i l'inici del conclave. O'Connell finalment va poder participar en el conclave posterior de 1939, tot i que en aquell moment els viatges aeris estaven disponibles.