Nielsen 1926-ban született Kanadában. Édesanyja walesi, édesapja pedig dán származású. Későbbi pályafutása alapján azt gondolhatnánk, hogy ő volt az osztály bohóca, de erről ő maga így nyilatkozott: „Azzal voltam elfoglalva, hogy én legyek Mr. Tökéletes, hogy a szüleim ne találjanak bennem semmi hibát.” Édesapját kinevezték a Kanadai Királyi Lovas Csendőrség élére, de a felelősségteljes pozíció ellenére a férfi otthonában durva és agresszív volt. Fizikailag többször is bántalmazta feleségét és gyermekeit, ezért Leslie célja az volt, hogy minél hamarabb elköltözzön hazulról. „Hosszú időbe telt, amíg ráébredtem, hogy diszfunkcionális családból származom, de én legalább rájöttem erre” – mondta. Idősebb korában már kellő humorral nézett vissza gyermekkorára: „Fiatalságom hosszú évei során a legfőbb célom az volt – az Északi-sarkhoz oly közel –, hogy ne fagyjak halálra.”
17 évesen jelentkezett pilótának a Kanadai Légierőbe, ahol egy évig szolgált a második világháború alatt, ám fiatal kora miatt végül nem küldték ki a frontra. Miután leszerelt, egy darabig egy New York-i színésziskolában tanult. Elmondása szerint állandóan attól rettegett, hogy tehetségtelennek találják és visszaküldik Kanadába. De nem így történt. Karrierje drámai szerepekkel indult, számos szerepben próbálta ki magát: mint orvos, ügyvéd vagy épp rendőr. Az 1950-es években 50 különféle alakításban tűnt fel. Nielsen az akkori fizetéséről ezt mondta: „Nagyon kevés aranyat termett ez az időszak, 75-100 dollárt kaptunk műsoronként.” Különleges hangja miatt számos dokumentumfilm és reklám narrátora lett. Egész élete során vissza-visszatért televíziós gyökereihez, hiszen mintegy 1500 műsorban formált meg több mint 220 karaktert.
Magas termete és barátságos arca miatt filmjeiben eleinte főleg a becsületes, bátor hős szerepét játszotta. Legismertebb korai filmjei között szerepel az 1956-os Tiltott bolygó és az 1972-es A Poseidon katasztrófa, melyekben a szakma is elismerte tehetségét. Nielsen filmes karrierjét nem lehet beskatulyázni: játszott romantikus, drámai, western- és sci-fi filmekben is. „Megállás nélkül dolgoztam. Nagyon sok vezetőt vagy zsarnokot játszottam el. Talán a kanadai akcentusom lehet az oka.” 1959-ben még Messala szerepére is jelentkezett a Ben Hur című filmben, amelyet végül nem ő kapott meg.
Igazán híressé az 1980-as Airplane! című filmmel vált, melyben egy orvost alakít, aki a repülő személyzetét sújtó ételmérgezés ellen veszi fel a harcot. Nielsen egyénisége abban rejlett, hogy vígjátékaiban megformált karakterei látszólag esetlenek, szórakozottak, és mindehhez társulnak a filmjeit jellemző abszurd helyzetek. „Az biztos, hogy amikor egy ember nevet, legalább nem fog behúzni neked”– mondta erről. Az Airplane! rendezői a vígjáték sikerén felbuzdulva elhatározták, hogy átviszik a „bohózat sok ütleggel” stílust a televízióba is, és Nielsent kérték fel a Nagyon különleges ügyosztály filmsorozat főszerepére. Ezért a szerepéért Nielsent Emmy-díjra jelölték a legjobb főszereplő kategóriában.
A televíziós sorozat vége után 6 évvel a „különleges ügyosztály” történeteit mozifilmre vitték, melynek köszönhető a Csupasz pisztoly-trilógia. 1998-ban a színész ezt nyilatkozta a The New York Times-nak: „Lassan kezd derengeni, hogy az elmúlt 35 évben nem a vérmérsékletemnek megfelelő szerepeket kaptam, most viszont végre azt csinálhatom, amit mindig is akartam.” Az utolsó két évtizedében már főleg paródiákban szerepelt (például a Horrorra akadva horrorparódiákban), amelyek szakmai sikereket már kevésbé hoztak, viszont annál több nézőt vonzottak. Élete során számos elismerésben részesült, a kanadai és a hollywoodi Hírességek sétányán is szerepel a neve.
Négyszer nősült, első feleségével hat, második feleségével öt, harmadik feleségével két évig voltak házasok. Utolsó feleségét 2001-ben vette el, de már 1983 óta egy pár voltak. Második házasságából két gyermeke született, két lánya szerepelt is vele pár filmjében.
Egészen betegségéig dolgozott, 81 évesen így nyilatkozott: „Elkezdtem értékelni a még hátra lévő időmet, mert rájöttem, hogy még van tennivalóm.” Amikor megkérdezték, hogyan szeretne tovább élni az emberek emlékezetében, a következőt válaszolta: „Nem igazán számít ez nekem. Megcsináltam az Airplane!-t, a Csupasz pisztoly-filmeket… Ahogy én látom, megépítettem az én saját kis piramisomat, és az egészen addig állni fog, amíg az embereknek lesz szemük, hogy lássák.”
A színészt 2010 novemberében vették fel a floridai Fort Lauderdale kórházba tüdőgyulladással. November 28-án unokaöccse jelentette be a nyilvánosságnak, hogy a színész álmában, családja és barátai körében hunyt el.
„Hogy 20 év múlva hol leszek, azt nem tudom, de hogy nem lesz jó szagom, az biztos!”