清光绪二十八年（1902年）5月，在黑山镇所在地设镇安县。
民国三年（1914年）1月，镇安县改名黑山县。
民国十年（1921年），全县划分为6区，黑山镇为附城区。
民国二十年（1931年）9月18日，东北沦陷后，日伪政权将全县划分为44个村，黑山镇为其中一个村。
民国二十六年（1937年），黑山镇改黑山街公所。
民国二十五年（1946年），国民党占据黑山期间，全县设3镇，黑山镇为其中之一。
民国三十七年（1948年）2月，黑山全境解放，成立黑山镇。
1950年，黑山镇改为第十区。
1955年4月，复置黑山镇。
1958年10月，与胜利、营房、十里3乡合并成立东风公社。
1961年，调整为黑山公社。
1963年，改名黑山镇公社。
1968年3月，成立黑山镇革命委员会。
1980年9月，改黑山镇人民公社管理委员会。
1983年9月，改黑山镇。
1992年5月，大虎山镇的黄家壕村和段家乡的古家子村并入黑山镇。
2013年7月12日，撤销黑山镇改设黑山街道。