明属松源乡向方里，清属松源乡第一、第二都。
民国属枫合乡、乔竹乡。
1950年车根部分属东乔乡，1956年属后广乡，1961属后广人民公社1981年析称黄陂管理区1984年称车根乡。
1951年析建斋郎乡，1958年称斋郎管理区，属新村人民公社，1961年称斋郎人民公社，1984年复乡。
1992年，全县撤扩并，由车根乡和斋郎乡两乡合并称百山祖乡。
2013年3月，根据浙政函[2013]61号文件，撤销百山祖乡、合湖乡建制，合并设立百山祖镇后属百山祖镇。
百山祖乡是“全国环境优美乡”“浙江省生态乡”。