Leno, joka on alun perin kotoisin New Rochellesta, New Yorkista, syntyi 28. Hänen vanhempansa olivat maahanmuuttajia, jotka kasvoivat laman aikana kuuluisan pörssi-onnettomuuden jälkeen. Ja se tarkoitti, että he olivat jatkuvasti varovaisia rahansa suhteen.
Lisäksi heidän vastenmieliset tapansa selvästi tarttuivat heidän poikaansa. Lukion jälkeen Leno opiskeli puheterapiaa Emerson Collegessa Bostonissa Massachusettsissa ja perusti komediaklubin yksityiseen yliopistoon vuonna 1973. Valmistuttuaan hän alkoi työskennellä standup-koomikkona.