Közben ismerkedési fázisba került a futballal is, első csukáját első fizetéséből vette, amit cipőtisztításért kapott. A profi szerződés kapujában apja nyomására visszatáncolt, de a focitól nem szakadt el végleg, húszévesen a Panathlon – sportmenedzsereket tömörítő szervezet – tagja lett. Próbálkozott a sportújságírással, szerencsét próbált a Svájci Jégkorongszövetségnél, volt futballcsapat elnökségi tagja, majd 1975-ben a Longines óragyártó cég osztályvezetőjévé lépett elő.
Ezek után indult be sportvezetői pályája, aktívan vette ki részét például a ’72-es Los Angeles-i és a ’76-os montreali olimpiák szervezéséből, majd a FIFA-hoz került az akkori Adidas-főnök, Horst Dassler hathatós segítségével. Rátermettségének és agilitásának köszönhetően gyorsan emelkedett felfelé, amiben nagy szerepe volt nyelvtudásának is. Angolul, németül, spanyolul, franciául és olaszul is meg tudta magát értetni, így nem volt meglepő, hogy előbb főtitkár, majd elnök lett, ezalatt pedig bekerült a Nemzetközi Olimpiai Bizottság elnökségébe is.
Blatter 1998-ban csapott össze a FIFA elnöki székéért Lennart Johanssonnal, aki azt ígérte, hogy ha megválasztják, átvilágíttatja az egész szervezetet. Ebből nem lett semmi, ugyanis Sepp nyert – bár a győzelem tisztaságát illetően merültek fel kétségek. Állítólag egy közel-keleti sportvezető húsz darab 50 ezer dolláros csomagot osztott ki azon voksolók közt, akik Blatterre szavaztak. Az egyre gyarapodó pénzügyi vádak árnyékában még nagyobbat szólt Blatter 2002-es újraválasztása. Michel Zen-Ruffinen korábbi főtitkár 21 oldalas dokumentumot hozott nyilvánosságra, amiben részletesen taglalta a szabálytalanságokat, egy afrikai futballvezető pedig azt nyilatkozta: őt és 18 társát 100-100 ezer dollárral próbálták megvesztegetni. A súlyos vádakra tekintettel Blatter ellen belső vizsgálat indult, amely nem hozott eredményt, Zen-Ruffinent ugyanakkor eltávolították a FIFA-tól.