这一称呼据说是因平王东迁，华山在东周王国之西，故称“西岳“。秦帝国建都咸阳，西汉帝国建都长安，都在华山之西，所以华山不再称为“西岳“。直到东汉建立，华山又恢复了“西岳“之称，并沿用至今。
华山地处黄河中游流域，与黄河一起孕育了中华民族。据历代专家学者研究考证，古代华夏文明主要聚集在以华山为中心的方圆500千米范围内。
《书经·禹贡篇》载华山为“轩辕黄帝会群仙之所“，后人推测应该是黄帝在此与各部落酋长会盟。此后，华山声名日隆。《书经》、《资治通鉴》等书均记有“唐尧四巡西岳“、“舜三巡西岳“。《舜典》载:(舜帝)八月西巡狩，至于西岳。
由于华山太险，所以唐代以前很少有人登临。历代君王祭西岳，都是在山下西岳庙中举行大典。《尚书》载，华山是“轩辕皇帝会群仙之所“。《史记》载，黄帝、虞舜都曾到华山巡狩。据记载，秦昭王时命工匠施钩搭梯攀上华山。
秦始皇首祭华山，汉唐以来，封号递增，愈演愈烈，汉武帝敕修西岳庙前身集灵宫;汉元延二年(前11年)，汉成帝巡幸河东，涉西岳而归。
魏晋南北朝时，还没有通向华山峰顶的道路。直到唐朝，随着道教兴盛，道徒开始居山建观逐渐在北坡沿溪谷而上开凿了一条险道，形成了“自古华山一条路“。
唐高祖武德二年(619年)，唐高祖大猎于华山;是年，唐高祖送李世民东征祭山 ;上元元年(674年)，唐高宗较猎于华山下曲武原;其中尤以唐玄宗以与华山为本命，封华山神少昊为金天王为最。天宝九年(750年)，群臣请奏封禅西岳，唐玄宗命人开凿华山路，设立坛场。
宋太祖赵匡胤与华山道士陈抟来往密切，以道治天下。
明太祖朱元璋梦游西岳，定华山名号。
清代，从顺治、康熙、雍正、乾隆一直到光绪祭祀不断。