Vuonna 1898 Rynning sai tietää, että sota Espanjan kanssa oli alkanut - ja että hänen vanha ystävänsä eversti Leonard Wood oli perustamassa vapaaehtoisen ratsuväkirykmentin, - joka myöhemmin tuli tunnetuksi Theodore Rooseveltin Rough Ridersina. Hän värväytyi sotilaaksi ja palasi sodasta toiseksi luutnanttina 1. Yhdysvaltain vapaaehtoisten ratsuväkirykmentin B-joukkueessa. San Juan Heightsin taistelun aikana
Rynning otti johdon amerikkalaisjoukoista kapteeni Buckey O'Neillin kuoleman jälkeen. Muutaman minuutin kuluttua hän johti Rough Ridersit Kettle Hillin huipulle ja oli ensimmäinen amerikkalainen, joka saavutti huippukokouksen. Rynning käski miehistönsä heiluttamaan rykmentin lippua toisten liittoutumiseksi. Lippu säilytetään nyt kirjasto- ja arkisto-osastolla osavaltion pääkaupungin rakennuksessa Phoenixissa, Arizonan osavaltiossa. Sen jälkeen Rynning liittyi Theodore Rooseveltiin San Juan Hillin hyökkäyksessä, joka päättyi amerikkalaisen voittoon.