北宋太平兴国三年（978）属长山乡；元至元十六年（1279）为十一、十二都部分；清宣统二年（1910）设河上乡；1932年为河上镇，属第三区；1939年，属戴村区；1940年1月，日军侵占城厢镇，县政府撤至河上镇，至1945年8月，日军宣布投降，县政府迁回城厢镇；1947年，乡镇编并后，仍为河上镇。
1949年5月萧山解放，建立人民政权，为河上区驻地；1950年10月设河上镇及青山、大山、白堰、紫霞等乡；1954年5月经省民政厅批准为建制镇；1956年为河上乡、紫霞乡；1958年为河上公社河上、紫霞管理区；1959年增设白堰管理区；1961年缩小公社的行政区域并撤销管理区，河上管理区改为河上公社，紫霞管理区改为大桥公社，并将白堰管理区并入大桥公社，河上、大桥公社均属河上区；1969年大桥公社南片并入河上公社，北片并入戴村公社；1971年2月原大桥公社部分从河上、戴村公社划出，恢复大桥公社；1984年5月，河上公社改为河上乡，大桥公社改为大桥乡；1985年8月，经省民政厅批准河上乡改为河上镇；1992年5月，大桥乡并入河上镇，其行政区划和名称沿用至今。