Eiffel 1832. december 15-én Dijonban született Alexandre Gustave Boenickhausen néven. Édesapja rendőr volt, édesanyja pedig kőszénkereskedéssel foglalkozott. Kiemelkedően jó eszű, de elképesztően lusta és rossz gyerek volt. A középiskola befejeztével Párizsba ment, hogy felkészüljön a nagy presztízsű műszaki főiskolára, az École Polytechnique-re. A felvételin elért pontjai azonban nem voltak elegendők ahhoz, hogy bekerüljön a neves intézménybe. Végül egy másik jóhírű párizsi főiskolára, az École Centrale-ra nyert felvételt, ahol 1855-ben vegyészmérnöki végzettséget szerzett. Friss diplomájával úgy tervezte, hogy átveszi nagybátyja, Mollerat ipari festékgyárát, ez azonban egy heves családi veszekedés következményeként meghiúsult.
1856 februárjában anyja révén összeismerkedett Charles Nepveu-vel, aki munkát ajánlott neki. Nepveu párizsi gyára sűrített levegős kovácseszközök gyártására és fémszerkezetek építésére szakosodott. Mivel a nagy szilárdságú és könnyen megmunkálható anyag felhasználása gazdaságosabb volt, mint a kőé, a cég egyre több megrendelést kapott. A fiatal, mindössze huszonhat éves mérnök tehetségét első munkájával, a bordeaux-i vasúti híd építésével bizonyíthatta. Ő alkalmazott először sűrített levegős alapozást a csőszerű pillérek kivitelezésénél. Eiffel nemcsak nagyszerű szakember, de nemes jellem is volt: azt mesélik róla, hogy az építkezés során egy munkás a vízbe zuhant, és Eiffel ugrott utána, hogy kimentse onnan.
A kezdeti sikerek