2012ko azaroaren 4an, Peraltak bi urteko kontratua sinatu zuen, 6 milioi dolar, 2015 eta 2016rako klubaren aukerekin. Andrew Friedman, Rayseko Baseball Operazioetako presidenteordeak esan zuen: "Joelen lehiakortasuna eta gure bullpeneko pitcher gazteengan duen eragina maite ditugu". 2013an karrerako 80 agerraldi egin zituen, Majorren liderra izan zen eta klubeko errekorra ezarri zuen eskuineko pitcher batentzat eta bere hirugarren denboraldian 70 agerraldi baino gehiago izan zituen. 3.8ko puntuaketa eta 3.41ko erronka. Golarik gabeko jardunaldi bat bota zuen 2013ko American League Wild Card Game-n
Cleveland Indians-en aurka eta bi gol-gabe jokatu zuen 2013ko American League Division Series-an Boston Red Sox-en aurka. Peralta 69 partidetan aritu zen 2014an eta 3-4 izan zen 4,41 ERArekin.