Na contact met de Europese vertegenwoordiger van de Amerikaanse luchtvaartpionier en vliegtuigbouwer Glenn H. Curtiss reisde Van Riemsdijk naar de Verenigde Staten. Te Hammondsport bij Buffalo in de staat New York, waar de Curtiss Aeroplane&Motor Company was gevestigd, kocht hij in november voor $ 5000 een tweedekker. Van de ontwerper zelf kreeg hij zijn eerste vlieglessen, die zich toentertijd overigens beperkten tot aanwijzingen op de grond, aangezien vliegtuig en motor niet sterk genoeg waren om met twee personen tegelijk de lucht in te gaan. Op deze wijze maakte Van Riemsdijk hier eind 1909 zijn eerste vluchten, waarbij hij overigens slechts enkele meters boven de grond kwam.
Met zijn gedemonteerde, in vier kratten opgeslagen Curtiss ging Van Riemsdijk daarna scheep naar Le Havre, om via Parijs door te reizen naar Egypte. Met dit toestel nam hij hier in februari 1910 deel aan zijn eerste internationale vliegmeeting te Heliopolis, en niet zonder succes, want hij wist er de prijs voor de langste totaal afgelegde afstand in de wacht te slepen. Kort tevoren, op 30 januari, had Van Riemsdijk voor Franse officials in Heliopolis de brevetproeven als vliegenier afgelegd, op grond waarvan hem op 8 maart het brevet no. 34 van de Aéro-Club de France werd uitgereikt. Daarmee werd Van Riemsdijk de eerste gebrevetteerde Nederlandse vlieger. Hij was echter niet de eerste Nederlander die gevlogen heeft: die eer komt Gijs Küller toe, die al in augustus 1909 in Frankrijk voor het eerst de lucht in was gegaan, maar later dan Van Riemsdijk – namelijk in april 1910 – zijn brevet verwierf.
Na terugkeer in Frankrijk schreef Van Riemsdijk zich in voor verscheidene andere vliegmeetings, waarbij hij meermaals in de prijzen viel. Zo nam hij in het voorjaar van 1910 deel aan de Grande Semaine d’Aviation de Cannes en aan een meeting te Nice. Tijdens deze laatste wedstrijd, waar vele coryfeeën van de partij waren, was ook een vlucht over zee voorzien van Nice naar Cap Ferrat. Tijdens deze oversteek, op 23 april, werd Van Riemsdijk door een slecht functionerende motor gedwongen tot een noodlanding op zee. Uit voorzorg had Van Riemsdijk reeds enige luchtreservoirs onder de vleugels aangebracht, zodat het toestel bleef drijven en de piloot en zijn vliegtuig door marineschepen uit het water konden worden opgepikt. Een maand later nam Van Riemsdijk met zijn inmiddels geheel herstelde Curtiss alweer deel aan een vliegmeeting in Palermo. Hij viel hier eveneens in de prijzen, ook al heeft hij er in dit geval nooit één lire van ontvangen.
De wedstrijd in Palermo was tevens de laatste waaraan Van Riemsdijk deelnam. Het was hem inmiddels duidelijk geworden dat de verdiensten aan prijzengeld in de verste verten niet opwogen tegen de enorme kosten die toen aan het vliegen waren verbonden, zeker indien men de vliegsport – zoals zovelen in die tijd – zuiver als liefhebberij beoefende en niet als technicus of ontwerper. In Parijs liet hij nog wel een nieuwe motor in zijn vliegtuig plaatsen, maar hij verkocht het toestel daarna aan de meestbiedende.
Van Riemsdijk keerde vervolgens terug naar zijn schildersezel. Toen evenwel in 1914 de Eerste Wereldoorlog uitbrak, meldde hij zich ter verdediging van zijn tweede vaderland als vrijwilliger bij de Franse strijdkrachten. In de rang van soldaat der tweede klasse werd hij ingedeeld bij de Deuxième Groupe d’Aviation. Na een korte opleiding kwam hij terecht bij de troepen die Parijs moesten verdedigen, en zo nam hij deel aan de slag aan de Marne. Een zware longonsteking was er echter de oorzaak van dat hij enige tijd later werd afgekeurd.
Van Riemsdijk heeft zich in de rest van zijn leven aan de schilderkunst gewijd, en al waren zijn prestaties op dit terrein weinig opvallend, hij was niettemin een gevraagd portretschilder. Hij bleef in Frankrijk, al maakte hij daarnaast verscheidene grote reizen, onder meer naar de Verenigde Staten en Nederlands-Indië. Geruime tijd woonde hij in Zuid-Frankrijk, waar zijn huis bij de geallieerde invasie in 1944 werd vernield. Na de oorlog woonde en schilderde hij in villa ‘Hiawatha’ te Bandol nabij Toulon. Later vestigde hij zich weer te Parijs. Hier zou hij op 64-jarige leeftijd overlijden.