Seine Karriere begann Rolfes 1986 bei seinem westfälischen Heimatverein TuS Recke. 1999 wechselte er in die A-Jugend von Werder Bremen und spielte sich schnell in die Profimannschaft.
Im Januar 2003 wurde er für eine Halbserie an den damaligen Zweitligisten SSV Reutlingen 05 ausgeliehen. In der Saison 2003/04 kehrte er zu Werder Bremen zurück und wurde Deutscher Meister und Deutscher Pokalsieger. Rolfes stand aber nicht einmal für die erste Mannschaft auf dem Platz.
Die Konsequenz war 2004 ein Wechsel zum Zweitligisten Alemannia Aachen. In Aachen wurde er rasch Stammspieler und erzielte in 28 Zweitligaspielen drei Tore.
Zur Saison 2005/06 wechselte Rolfes zu Bayer 04 Leverkusen. Durch starke Leistungen konnte er sich einen Stammplatz im defensiven Mittelfeld erkämpfen.
Rolfes wurde 2008 in den Kader für die Europameisterschaft berufen. Seinen ersten Einsatz in diesem Turnier absolvierte er am 19. Juni 2008 im Viertelfinale gegen Portugal, als er den verletzten Torsten Frings ersetzte.