Konstantin 280 körül született a Római Birodalom balkáni területén, Naissusban, azaz a mai Nis városában. Apja, a későbbi I. Constantius Chlorus császár ekkor még csak egy magas rangú katonatiszt volt, aki megismerkedett egy fogadós leányával, Helénával. Kettejük minden bizonnyal házasságon kívüli kapcsolata nyomán látta meg a napvilágot a kis Konstantin. A fiúcska azonban nem számított törvénytelen gyereknek, mert apjának – mint minden katonának – a korabeli római jog szerint megvolt az a kiváltsága, hogy házasságon kívül született gyermekei is törvényes leszármazottnak minősülhettek. Konstantin gyermekkora nem nevezhető idillikusnak. Még csak néhány éves volt, amikor apja elbocsátotta anyját, Helénát, hogy politikai karrierje érdekében feleségül vegye Theodorát, a birodalom élén álló egyik társcsászárnak, Maximianusnak a nevelt lányát.
A rettegés kora
Konstantin sorsát és későbbi pályafutását jelentősen befolyásolta az a nagyszabású kormányzati átalakítás, amelyet a 284-ben trónra került Diocletianus császár hajtott végre a birodalom irányításában. A katonatisztből lett császár véget vetett az addigi principátus rendszerének, amely köztársasági látszat fenntartásával gyakorolt egyeduralom volt, és bevezette a nyílt diktatórikus egyeduralmat. Diocletianus dominusnak, korlátlan hatalmú úrnak neveztette magát, és fölvette a Iovius melléknevet, azaz Jupiter római főisten fiának nyilvánította magát. 285-ben társuralkodóként maga mellé vette hűséges katonatársát, a már említett Maximianust, akit caesari címmel ruházott fel, sőt a következő évtől augustusi rangra emelt. Maximianus az emberfeletti tetteket végbe vivő Herkules isten fiának nyilvánította magát, és a Herculius melléknevet használta. Ő kormányozta a birodalom nyugati tartományait, míg Diocletianus a keletieket.
A birodalom hatékonyabb kormányzása érdekében 293-ban Diocletianus tetrarchiává, négyes uralommá alakította át az addigi társuralkodás rendszerét. Ekkor mindkét augustus egy-egy alcsászárt emelt maga mellé caesari címmel. Az új rendszert állandóvá kívánta tenni Diocletianus, tehát az augustusok helyére, azok halála vagy lemondása esetén a caesaroknak kellett lépnie, és a tetrarchia fenntartása érdekében új caesarokat kellett maguk mellé választaniuk.
293-ban, a tetrarchia kialakításakor Diocletianus Galeriust emelte maga mellé caesarnak. Maximianus számára pedig Konstantin apját, Constantius Chlorust nevezték ki caesarnak, aki eddig praefectus praetorióként a császári udvar egyik legfőbb tisztségét töltötte be. Az ő számára két nyugati provinciát, Galliát és Britanniát jelölték ki működési területül. Fiának, Konstantinnak azonban keleten kellett maradnia, Diocletianus nikomédiai udvarában, egyfajta zálogul apja hűségének biztosítására.
Diocletianus a birodalom megerősítésében, egységének megszilárdításában kiemelkedő szerepet szánt a vallási kérdésnek. A régi pogány hitet kívánta a birodalom eszmei kötőanyagává tenni. A pogány vallási egységbe azonban nehezen volt beilleszthető a birodalomszerte jelentős befolyással rendelkező kereszténység. Diocletianus már 298 körül elrendelte, hogy minden katona és hivatalnok köteles áldozatot bemutatni a pogány római isteneknek, vagy különben ki kell lépnie az állami szolgálatból. Ez nem hozta meg a várt eredményt, ezért 303 elején minden addiginál nagyobb és hevesebb keresztényüldözés vette kezdetét. Diocletianus császár elrendelte, hogy a keresztények valamennyi templomát le kell rombolni, minden szent iratukat meg kell semmisíteni, vezetőiket pedig keményen meg kell büntetni. Nem sokkal később a császár egy újabb utasításban azt is megparancsolta, hogy az összes egyházi tisztséget betöltő személyt fogságba kell vetni, és csak akkor lehet közülük bárkit szabadon bocsátani, ha bemutatják az áldozatot a római isteneknek. Végül 304 tavaszán minden keresztény hívőnek halálbüntetés terhe mellett előírta a pogány áldozat bemutatását.
A császári akarat a kereszténység teljes megtörését, sőt felszámolását kívánta végbevinni. Drámai küzdelem bontakozott ki. A keresztények közül sokan megtagadták hitüket, és bemutatták az elvárt pogány áldozatokat. Őket elbukottaknak (lapsi) nevezték. A vezetők közül is számosan engedelmeskedtek az államhatalmi parancsoknak. Beszolgáltatták a Bibliákat és más egyházi iratokat, illetve az istentiszteletekhez használt tárgyakat, úrvacsorai edényeket. Őket traditoroknak (átadóknak) nevezték. Voltak, akik kiadták társaik névsorát, vagy elárulták azok rejtőzködési helyét. Mások nem akarták megtagadni hitüket, de a konfliktust sem kívánták vállalni az állammal szemben, ezért megvesztegetve a hivatalnokokat, beíratták nevüket a pogány áldozatot bemutatók listájára, miközben valójában egyetlen áldozatot sem mutattak be.
A keresztények jelentős részét azonban nem tudta megtörni az üldözés. Sokan igyekeztek elmenekülni,
elrejtőzni az üldözőik elől. Sokan vállalták a börtönt, kínzásokat, és számosan készek voltak mártírhalált halni hitükért. A hitvallók példája hatalmas megerősítést jelentett a keresztények számára, és a kívülállók közül is sokakat elgondolkodtatott a keresztények erkölcsi és hitbeli erejéről.