Kerry 1943. december 11-én született a Colorado állambeli Aurorában, egy katonai kórházban, ahol apját, Richard Kerry második világháborús pilótát tuberkulózissal kezelték.
Apai nagyapja, Frederick A. Kerry (született Fritz Kohn) az Osztrák–Magyar Monarchia területén, a ma Csehországhoz tartozó Horni Benesovban született, és Mödlingben, egy Bécs közeli kisvárosban nőtt fel. Felesége, Ida Löwe Budapesten született. Mindketten németajkú zsidók voltak, akik 1901-ben kikeresztelkedtek. Fritz Kohn ekkor vette fel a Frederick Kerry nevet, amelyet a családi történet szerint a térképről választott, mondván, egy ír hangzású név segíthet nekik az Újvilágban. 1905-ben valóban kitelepültek az Egyesült Államokba, ahol három gyermeküket – köztük John apját – katolikusnak nevelték. Cseh történészek szerint Ida egyik felmenője a 16. század végén élt Sinai Löwe volt, akinek testvére volt a legendás Juda Lőw rabbi, kabbalista, filozófus és talmudista, akit a prágai Máhárálként ismertek. Ida két testvére, Otto és Jenni Löwe náci haláltáborokban vesztették életüket.
Francia évek
Richard John Kerry, a szenátor apja Massachusettsben született. Iskolái befejeztével előbb a hadseregben, majd a külügyminisztériumban szolgált. 1937-ben ismerkedett meg Rosemary Forbesszal, a vagyonos Forbes család (nem azonos a neves Forbes magazin névadójával) tizenegy gyermekének egyikével, akivel 1941-ben kötöttek házasságot. Rosemary a Vöröskeresztnél szolgált Párizsban a második világháborúban.
Kerry anyai nagyapja, James Grant Forbes a kínai Sanghajban született, ahol hatalmas vagyonra tett szert porcelán és ópium forgalmazásából. Forbes egy New England-i család leányát, Margaret Tyndal Winthropot vette feleségül, akinek az ősei az első bevándorlókkal érkeztek az országba. Az ő révén John Kerryt négy korábbi elnökhöz, többek között George W. Bush-hoz is rokoni szálak fűzik (Bush-sal kilencedfokú unokatestvérek).
Kerry gyermekkorában hosszú időt töltött a franciaországi Saint-Briac városban, ahol édesanyja gyermekkori otthona volt. A Kerry család később is több nyári szünetet töltött a francia rezidencián. Ebben az időben közeli barátság alakult ki közte és elsőfokú unokatestvére, Brice Lalonde későbbi szocialista és zöldpárti vezető között, aki 1981-ben indult a francia elnökválasztáson is.
Mivel Kerry apjának munkája miatt a család sokat költözött, John tanulmányainak nagy részét bentlakásos iskolákban végezte, többek között Svájcban és az Egyesült Államokban. Mikor édesapja Berlinben dolgozott, a nyári szünetekben Kerry sokat biciklizett a városban, és egy alkalommal átkerekezett Kelet-Berlin területére, kis híján diplomáciai bonyodalmat okozva ezzel.
Kerry első politikusi beszédét tizenhét évesen tartotta, amikor John F. Kennedy mellett szónokolt az elnökválasztási kampány során. Kennedy elnökkel való kapcsolata nem ért ezzel véget: a fiatalember 1962 nyarán Jacqueline Kennedy féltestvérének kezdett el udvarolni. A lány meghívta Kerryt a család Rhode Island-i birtokára, ahol Kerry találkozott az elnökkel is.
Kerry ebben az évben jelentkezett a Yale Egyetemre, ahol politikatudományból szerzett diplomát. Egyetemi évei alatt a polgári jogok egyik élharcosává vált. Már 1965-ben felszólalt a vietnami háború ellen, mondván, hogy "a nyugati imperializmus az a kísértet, ami a legtöbb félelmet okozza Afrika és Ázsia számára, nem pedig a kommunizmus, így ezzel [a háborúval] a saját érdekei ellen dolgozik".