黄山乡位于壶关县县城南部，距县城12公里，处于全县的边缘地带。东与店上乡接壤，南与百尺乡毗邻，西与长治县西池和荫城两乡镇相接，北与龙泉镇相连。全乡国土面积52平方公里。其中山地面积占65%，是典型的丘岭山区。全乡气候温差较大，四季分明，雨量较少，年平均气温9℃。生态环境一般，有林面积占全乡面积的25%。