明、清属遂平县。
1931年属六区（土山）。
1936年属第四区（区署驻玉山镇）。
1941年设金嵖乡。
1947年属一区(土山）。
1948年分属一区(土山）、二区（嵖岈山）。
同年6月，分属一区(土山）、二区（杨店）。
1949年属第三区(玉山）。
1951年分属三区（土山）、四区(文城）。
1955年属杨店中心乡。
1958年4月成立嵖岈山卫星集体农庄，7月改为嵖岈山卫星人民公社。
1962年成立槐树人民公社。
1968年槐树人民公社并入嵖岈山人民公社。
1980年再次分开。
1983年改设嵖岈山乡。
2008年设嵖岈山镇。