据《成武县志》和古碑文载是古汶水乃古菏水一支流，南宋绍熙年间（1190—1194），创、党、吕三氏傍河建村，后成集，故名汶上集，有“先有创党二家，后有草坡吕家”的传说。
夏商时期本镇属三朡国古都所在地，周初属古郜国后入宋，汉属秺侯国，三国属魏，北宋属永昌郡，唐时属戴州，五代至金属单州成武，元代属曹州，明代属兖州府成武县，清代属济宁府曹州成武县。
1911年属山东济宁道成武所辖二十三集之一。
1935年属成武县第六区。
抗日战争时期，本镇被日伪占领，属伪山东省巨野县管辖。
1942年9月随着革命形势的发展，革命根据地不断扩大，在此建立汶上集区，属巨野抗日县政府。
1946年3月属巨南县，1949年8月巨南县撤销，汶上集区划归成武，属成武县第六区管辖。
1950年在该集设平原省成武县汶上集乡。
1952年平原省撤销，随湖西专区改属山东省。
1953年7月湖西专区撤销，改属菏泽专区成武县第六区，驻地汶上集，辖17个乡。
1958年菏泽专区撤销，划归济宁专区。
秋，初撤区并乡时，划出秦田庄、马海、等13个大队归玉帝庙。
撤区后，汶上集改为乡。
1958年秋，成立汶上集（七一）人民公社，辖35个大队，74个自然村。
1959年恢复菏泽专区，成武县汶上集镇随属。
1962年初至1978年底，汶上集是成武县10处公社之一，1979年公社体制变动时，将燕庄、邱海、孙庄、丁楼自然村划归宝峰公社。
1981年12月所有公社分别改为乡或镇。
1983年经省政府批准设立汶上集镇，又将本镇的徐庄、水路店等15个大队，24个自然村划归徐庄乡。
1988年5月，徐庄乡撤销，又并入本镇，大队改建成37个行政村。
2001年，经省政府批准宝峰乡划归汶上集镇，至此汶上集镇辖63个行政村，113个自然村。