They lean. 

When you lean on a bike your center of mass isn't over the wheels anymore.  That puts a torque on you and the bike.  If your bike weren't moving that would mean you would just fall over.  Since the bike is moving and you have a lot of angular momentum, it turns the direction that you are moving. 

NOTE BECAUSE THERE IS A LOT OF MISS INFORMATION ABOUT THIS: my answer didn't have anything to do with the wheels rotating. it would work just as well if you were sliding on an ice skate machine as with wheels. 

It anyone would like the math worked out as proof I can do that. 
ඔවුන් නැඹුරු වේ. ඔබ බයිසිකලයකට හේත්තු වන විට ඔබේ ස්කන්ධ කේන්ද්‍රය තවදුරටත් රෝදවලට ඉහළින් නැත. එය ඔබට සහ බයිසිකලයට ව්‍යවර්ථයක් ලබා දෙයි. ඔබේ බයිසිකලය චලනය නොවූයේ නම්, එයින් අදහස් වන්නේ ඔබ පෙරළෙන බවයි. බයිසිකලය චලනය වන අතර ඔබට බොහෝ කෝණික ගම්‍යතාවයක් ඇති බැවින්, එය ඔබ ගමන් කරන දිශාවට හැරේ. මේ ගැන බොහෝ මගහැරුණු තොරතුරු ඇති බැවින් සටහන: මගේ පිළිතුර රෝද කැරකීම සමඟ කිසිදු සම්බන්ධයක් නොතිබුණි. ඔබ රෝද සමඟ අයිස් ස්කේට් යන්ත්‍රයක් මත ලිස්සා ගියහොත් එය හොඳින් ක්‍රියා කරයි. මට එය කළ හැකි සාක්ෂියක් ලෙස ගණිතය ක්‍රියාත්මක වීමට ඕනෑම අයෙකු කැමති වනු ඇත. 