唐武德元年（618年），设平陵县（今关山粟邑庙附近）。
唐武德二年（619年），改平陵县为粟邑县。
唐武德年间，粟邑县属雍州。
唐贞观八年（634年），撤粟邑县并入栎阳县。
元至元四年（1267年），随栎阳县并入临潼县。
明万历五年（1577年），设立关山镇，为抚民厅驻地。
清雍正八年（1730年），临潼县丞移驻关山。
清嘉庆元年（1796年），设县丞署。
民国二年（1913年），设县佐署。
民国八年（1919年），设临潼分县，管理临潼县渭水以北各镇事务。
民国十九年（1930年），分县废。
民国二十三年（1934年），推行保甲制度，关山设立联保处。
民国二十九年（1940年），改联保为镇，下辖6保64甲。
1949年5月，改为临潼县关山区。
1950年4月，设立临潼县第八区，辖7乡。
1958年，为相桥公社关山管理区。
1961年，撤销管区，成立关山公社。
1984年，改设关山乡。
1987年8月，关山乡划归西安市阎良区管辖。
1997年7月，撤销关山乡，设立关山镇。
2002年2月，撤销康桥乡，并入关山镇。