Az örökzöld növények tisztelete már az ősidőkben, a germán, a római, de még az egyiptomi kultúra hagyomány- és hitvilágában is ismert volt, a legtöbb esetben egy fenyőág vagy fagyöngy formájában. A karácsonyfa történetének megértéséhez éppen ezért az ókori népekhez kell visszanyúlnunk, akik a téli napfordulót a Napisten születésnapjaként ünnepelték meg. A felvilágosultabb Római Birodalom ezt az ünnepet a Mithrász-kultusz következtében a 3. században teljesen átvette - vagyis a pogányoktól átvették az örökzöldek tiszteletét is. Az ókeresztény vallásban, pontosabban annak szimbolikájában a sötétségben diadalmaskodó fényt - avagy a Napistent - Krisztus szimbolizálta, így Jézus születésének alkalmából is hagyománnyá vált az örökzöldek tisztelete egyfajta ősi hozományként.
Egyes források szerint konkrétan egész fákat az emberek a középkorban kezdtek el kivágni és a házakba vinni, majd feldíszíteni, méghozzá az ifjú élet feláldozásának jelképeként, hiszen Jézus is fiatalon áldozta fel életét az emberiség bűneiért. Más legendák szerint karácsonyfát Luther Márton állított először gyermekének, és követői vették át tőle a fadíszítés hagyományát. Létezik azonban egy olyan elmélet is, miszerint a karácsonyfa elődje az úgynevezett karácsonyi piramis volt, ami a germán mitológiából eredeztethető. Ennek értelmében egy kisebb fadarabot állítottak egy virágcserépbe, majd hozzáerősítettek két-három, felfelé ívelő deszkadarabot keresztbe, amelyek végén gyertyát gyújtottak.
Ha csak a magyarság történetére koncentrálunk, az első karácsonyfákról 1554-ből találunk említést, ám ez egy adóforma elnevezése volt, lévén karácsonyfának nevezték el a földesúrnak karácsonyi adóként szállított tűzifát. A karácsonyfa-állítás hazánkban csak jóval később, a 19. század második felében honosodott meg elsődlegesen a német ajkú közösségek körében. Az egyik első magyar karácsonyfát a feljegyzések szerint Brunszvik Teréz állította fel Aszódon, méghozzá 1824-ben. A szépirodalomban először Jókai Mór tesz említést karácsonyfáról, méghozzá 1854-es A koldusgyerek című elbeszélésében. Ki gondolta volna akkor, hogy mára szinte minden otthonban karácsonyfát állítanak az ünnepek alkalmából?