周武王元年（前1046）建立蔡国。
周景王十四年（前531）楚灭蔡国，设立蔡县。
战国时先后属蔡、楚、韩、秦。
韩置上蔡县。
秦王政十七年（前230）秦灭韩，上蔡属颍川郡、汝南郡。
西汉高帝四年（前203）置汝南郡，治上蔡。
汉永初二年（108）析上蔡县、西平县之地置定颍县，历经魏、晋，至南朝刘宋废。
三国属魏国豫州汝南郡。
西晋泰始四年（268）改为武津县。
南朝宋泰始二年（466）属汝南郡。
北魏神龟二年（519）于县境北部置临汝县，又曰武津县，仍属汝南郡。
北齐武津、临汝二县俱废，并入上蔡县。
隋开皇六年（586）于临汝县旧址复置武津县。
大业三年（607）武津县并入上蔡县，属汝南郡。
唐属河南道蔡州。
贞观元年（627）废，寻复置。
元和十二年（817）省入遂平，属唐州。
长庆元年（821）复置上蔡县，属蔡州。
宋属京西北路蔡州汝南郡淮康军。
金属京南路蔡州镇南军。
元属河南行省汝宁府。
明洪武初废上蔡县，洪武四年（1371）复置，属河南布政使司汝宁府。
清沿明制。
1912年属汝宁府。
1913年属豫南道。
1914年改属汝阳道。
1927年直属河南省。
1932年属河南省第八行政督察区。
1947年置洪河县，辖上蔡、商水、郾城、西平县交界地区。
1949年3月洪河县并入上蔡县，属确山专区，8月改属信阳专区。
1951年上蔡县的陈庄、唐桥、李庄、大冀、朱楼、大张6个小乡划归汝南县辖。
1965年属驻马店专区。
1969年属驻马店地区。
2000年属地级驻马店市。