秦置轵县(治今轵城)，因战国时为魏轵邑而得名，属三川郡。
西汉时于今市境东北置沁水县(治今王寨)，东南置波县(治今裴城)，均属河内郡。
东汉因之。
西晋省波县入野王。
北魏于今县境西部置苌平县(治今王屋)，属邵郡。
北齐并沁水县入轵县。
北周改苌平县名王屋县，后又置怀州。
武成元年(559)州废，置王屋郡。
隋开皇初郡废。
十六年(596)析轵县北部置济源县，属河内郡。
大业初省轵县。
唐武德元年(618)复置轵县，属怀州。
王屋县更名邵伯县，属邵州。
二年（619）置西济州，又析置湨阳（治今苗店）、燕川（治今大社）、邵原3县。
后又置长泉县（治今长泉）大基县（治今蓼坞）。
四年（621）废西济州，省湨阳、燕川2县入济源县。
邵原县并入邵伯县。
长泉县并入大基县。
八年（625）省大基县。
贞观元年(627)省轵县入济源县。
显庆二年(657)济源县改隶洛州，邵伯县复名王屋县，改隶河南府。
会昌三年(843)济源县改属孟州。
元太宗六年（1234）改济源县为原州，七年废州复为县，仍属孟州。
至元三年(1266)省王屋县入济源县。
明、清属怀庆府。
1913年属豫北道。
1914年属河南道。
1927年直属河南省。
1933年属第四行政督察区。
1943年析济源县西部置王屋县，2县同属太岳区第四专区。
1947年撤销王屋县。
1949年改属平原省新乡专区。
1952年平原省撤销，改属河南省新乡专区。
1969年属新乡地区。
1975年设立济源工区，由省直辖，同时析济源县承留、思礼两公社部分大队设虎岭区，同属济源工区。
1977年撤销济源工区办事处，虎岭区并入济源县，复属新乡地区。
1986年济源县改属焦作市。
1988年县改市，由焦作市代管。
1997年由省直管。