Rösler è stato segretario del FDP nello stato della Bassa Sassonia dal 2000 al 2004 e presidente del gruppo parlamentare del FDP nell'assemblea statale della Bassa Sassonia dal 2003. Dal 2001 al 2006, Rösler è stato membro dell'assemblea regionale di Hannover (distretto), dove è stato anche vicepresidente del gruppo parlamentare. Nel maggio 2005, è stato eletto osservatore del comitato esecutivo federale del FDP. Ha ricevuto il 95% dei voti, il miglior risultato di quella conferenza del partito. Alla conferenza del partito statale nel marzo 2006, Rösler è stato eletto presidente del FDP della Bassa Sassonia con il 96,4% dei voti; ha succeduto a Walter Hirche, che si era dimesso dopo dodici anni al timone della Bassa Sassonia. Nell'aprile 2008, Rösler è stato confermato come presidente del FDP della Bassa Sassonia.
1992