A relação de George com a música começou quando ele ainda era adolescente de uma maneira até certo ponto inesperada. A primeira vez que se sentiu atraído pela música foi com 10 anos, quando assistiu a um recital de violino de seu amigo de infância, Max Rosen. Para seu pai, George jamais passaria de "um moleque irresponsável" e o talento musical da família estava concentrado em Ira. Para estimular o primogênito, comprou um piano. Porém, para alívio do próprio Ira, o irmão menor George, então com 11 anos, apossou-se do instrumento, afirmando que o piano lhe pertencia. O tempo rapidamente mostrou ao velho Morris quão enganado estava em relação ao filho menor. O pai acabou cedendo às pressões de George e permitiu que ele tivesse aulas de piano. Seu primeiro professor era um húngaro que, para ensinar o menino, cobrava US$ 1,50 a aula. Foi assim que o adolescente teve o primeiro contato com grandes autores clássicos como Chopin, Liszt e Debussy. Um novo mundo se abria aos seus ouvidos. Para aprimorar sua formação técnica, prosseguiu as aulas com o brilhante pianista Charles Hambitzer, que lhe ensinou a técnica convencional de piano, apresentando-lhe as mais variadas teorias musicais - modernas, clássicas e européias. Foi Hambitzer que lhe ensinou a importância de assistir concertos para assimilar o amplo universo musical. O pianista foi seu mentor até morrer, em 1918. Mais tarde, George também estudou com o compositor clássico Rubin Goldmark e com o também compositor e teórico Henry Cowell. Aos 15 anos escreveu sua primeira canção popular, "Since I Found You" - seu talento e criatividade começavam a aflorar.
George abandonou a escola quando conseguiu seu primeiro emprego, como "song plugger"1, na rua 28, também conhecida como "Tin Pan Alley", um local na cidade de Nova York onde os aspirantes a compositor levavam suas partituras para que uma editora musical lhes pagasse alguns trocados. Trabalhando para a empresa Jerome Remick Co., George conheceu milhares de músicas, apurando seu ouvido para a composição de boa qualidade. Assim, aos 15 anos, George já era um músico profissional e ganhava US$ 15 por semana. Era o início de uma nova vida.
Dois anos após estar trabalhando nessa empresa, teve sua primeira canção publicada. Apesar de "When You Want Me You Can't Get Me" não ter sido um sucesso imediato, começou a atrair a atenção de alguns compositores da moda, na Broadway. A música chamou a atenção da cantora Sophie Tucker, cujos elogios repercutiram rapidamente e George foi contratado como compositor por outro importante editor musical, na época, Max Dreyfuss, da Harms. Sempre em busca de novos ritmos, George uniu-se ao letrista Irving Caesar. Juntos escreveram "You Just You". Anos mais tarde, Caesar compôs uma canção cujo sucesso atravessou épocas e marcou várias gerações de românticos - "Tea for Two".
A explosão da ascensão da dupla Gershwin-Caesar, no entanto, aconteceu em 1919. Durante o musical "Sinbad", no palco do Winter Garden, o já famoso Al Jolson soltou a sua voz forte e apresentou ao público a música "Swanee". Foi um sucesso estrondoso que levou as composições de Gershwin com regularidade para as platéias da Broadway. A canção vendeu um milhão de cópias e ele recebeu cerca de US$ 10.000 em direitos autorais. Sua sorte estava lançada. Foi também com Caesar que George compôs em 1919 a música para o musical da Broadway, "La La Lucille". Foi sua primeira partitura completa.
Conta-se que George chegou a pedir um emprego ao compositor Irving Berlin, que lhe teria respondido: "Seria melhor se você trabalhasse como compositor por conta própria". E foi exatamente o que fez.
A partir de 1920, sua fama como compositor não parou de crescer. De 1920 até 1924, Gershwin foi convidado a escrever os temas musicais para um dos grandes sucessos da época - a série, extremamente popular, de revistas da Broadway, "Os Escândalos de George White", produzida pelo compositor de mesmo nome. A Broadway vivia então a era dos grandes musicais, inspirados nas famosíssimas "Ziegfield Follies", que contavam com cenários suntuosos, grandes orquestras e um público ávido por novidades. Para essa série Gershwin compôs 45 canções, muitas das quais se tornaram famosas, como "Somebody Loves Me" e "Stairway to Paradise", dois clássicos da música norte-americana.
Para um dos "Escândalos", George compôs, "Blue Monday". Não foi um grande sucesso, mas a música caiu no gosto de Paul Whiteman, um dos principais bandleaders do início da década de 1920, conhecido como o "Rei do Jazz". Whiteman então lhe encomenda uma obra de jazz sinfônico para ser executada juntamente com outros trabalhos de nível, no Aeolian Hall, num concerto de jazz que estava organizando, o "Experimento em Música Moderna". George esqueceu-se por completo da encomenda até 3 semanas antes da estréia, mas, antes desse prazo, compôs "Rapsódia em Blue", o trabalho que definiu sua carreira e o elevou a outro patamar na música. A abertura da composição apresenta um solo de clarineta, que começa como um trinado e vai num crescendo até se desfazer no ar. Em outras palavras, uma peça para ser tocada com emoção, com toda a pungência dos blues.