黄山的来历，最典型的说法就是，黄帝曾在此山炼丹，所以此山名以黄帝的姓为名，称为黄山。

关于其名称的由来，源说不一。近千年来，因黄帝炼丹而名黄山一说，流传广泛，影响深远。还有一种说法，黄山，古名黟山，因峰岩青黑，遥望苍黛而名，后改名黄山。北宋景祜《黄山图经》解释说：江南黟山，据得其中，云疑碧汉，气冠群山，有古木灵药，名花异果，瀑水飞泻，汤泉香温，是轩辕黄帝“栖真之地”。唐玄宗崇尚道教，特于“天宝六年（公元747年）六月十七日敕改为黄山”。另一种说法，元人赵访用阴阳五行学说，结合黄山盘踞于崇山之中，而中央正色是黄色，而起名黄山。此外，明、清时，又有黄山即黄檗山一说。康熙八年《黄山志》附录《黄山辨》一文称：“今乡俗称为黄壁山，山川出黄檗也。曰黄山，省辞也。”提出因山产黄檗而得名