秦为郯郡的兰陵县、鄫县;西汉时属于东海兰陵县;东汉时属东海郡;三国时属魏;晋时属兰陵郡；隋属兰陵县，后改氶县；唐属兰陵县，后改为氶县；元属峄州；明属济宁府，后属兖州府；清属峄县。
中华人民共和国时期，仍属于峄县，沿袭清制。
1949年底隶属于峄县，属台枣专属领导；1953年7月滕县专属与湖西专属合并建立济宁专属后，隶属于济宁专属第六区；1958年3月，10个区建制合并后建乡，同年9月合并建立13处人民公社，底阁公社驻地设在峨山，更名为峨山人民公社，实际是由萝藤、底阁、甘沟、左庄乡合并而成。
1960年1月7日撤销峄县建制，建立县级枣庄市后，隶属枣庄市领导；1960年3月峨山公社辖左庄、香屯、底阁、各塔埠、萝藤、褚林、夏庄、任庄、甘沟、运卜屯11个管理区；1961年9月枣庄改为省辖市划社并区。
左庄公社、峨山公社、萝藤公社属峄城区领导；1984年建乡。
2001年3月撤左庄乡、萝藤乡合并为峨山乡，同年11月29日撤乡改镇为现名至今。