2012ko azaroaren 4an, Peraltak 6 milioi dolarreko bi urteko kontratua sinatu zuen klubarekin, 2015 eta 2016rako. Andrew Friedman, Rayseko Baseball Operazioetako presidenteordeak esan zuen: "Joelen lehiakortasuna eta gure bullpeneko pitcher gazteengan duen eragina maite ditugu". 2013an karrerako 80 agerraldi egin zituen, Majorren liderra izan zen eta klubeko errekorra ezarri zuen eskuineko pitcher batentzat eta bere hirugarren denboraldian 70 agerraldi baino gehiago izan zituen. 3.8ko puntuaketa eta 3.41ko erronka. Gol bat sartu du sarrerarik gabe...
2013ko American League Wild Card Jokoa Cleveland Indians taldearen aurka eta bi agerraldi egin zituen 2013ko American League Division Series-ean Boston Red Sox taldearen aurka. Peralta 69 partidetan aritu zen 2014an eta 3-4 izan zen 4,41 ERArekin.