Smith è nato il 25 settembre 1968 a Filadelfia, in Pennsylvania, da Caroline (Bright), un amministratore del consiglio scolastico di Filadelfia, e Willard Carroll Smith Sr., un veterano dell'Aeronautica militare statunitense e ingegnere della refrigerazione. È cresciuto nel quartiere Wynnefield di West Philadelphia, ed è stato cresciuto battezzato. Ha una sorella maggiore di nome Pamela e due fratelli minori, i gemelli Harry ed Ellen. Smith ha frequentato Our Lady of Lourdes, una scuola elementare cattolica privata a Filadelfia. I suoi genitori si sono separati quando aveva 13 anni, ma in realtà non hanno divorziato fino al 2000. Smith ha frequentato la Overbrook High School. Mentre è stato ampiamente riferito che Smith ha rifiutato una borsa di studio per frequentare il Massachusetts Institute of Technology (MIT), non ha mai fatto domanda all'università perché "vuoleva stuprare".
Alti punteggi SAT