据史料记载，北宋乾德二年（964），于自然镇东南首建造了净众寺，治平二年（1065）将镇名定为“大云寺”，明代曾称“蓉溪镇”，又名净众、净云。
清光绪年间，大云寺渐成市镇，又将蓉溪镇名改回“大云寺”，清光绪《嘉善县志》有“大云寺”镇名记载，人们习惯称“大云寺”。
民国初期改称大云镇。
1949年5月解放，6月建立大云乡。
1958年10月大云、大通、惠民3乡合并成立惠民公社。
1961年4月从惠民公社析出，成立大云人民公社。
1983年10月改公社为乡。
1988年撤销大云乡，建立大云镇至今。