合山镇始建于北宋年间（960年—1127年）。
清末，属阳江县长乐乡乔马都乔马一图、平乐乡北惯都北惯一、二图。
民国初期，属第三区。
民国二十六年（1937年），属第二区。
1953年5月，改为第五区。
1957年2月，撤区并乡，称合山乡。
1958年11月，与北惯乡合并成立幸福公社；同年12月，改称合山公社。
1959年10月，分出北惯公社。
1961年5月，改为合山区，辖合山、那龙、田畔、北惯、那石公社。
1963年，撤区分为合山、北惯公社。
1979年3月，分出田畔公社。
1983年11月，改公社为合山区。
1987年2月，改区为合山镇。
1988年1月至1991年6月，合山镇属阳江市阳东区管辖，1991年7月，属阳东县管辖。