解放前属于城南乡第3保，1950年建政为城南乡大山村，1958年成立城南人民公社连丰管理区，1961年改为连丰大队，1981年地名普查因重名，经渠府办〔1982〕2号文件更名为大山大队。
1984年体改，改为大山村。
2004年将原光明村所属的3、4、5、6、13、14、15、16村民小组并入大山村，2018年村发展壮大将大山村调整为大山社区，2019年5月渠南乡调整变更为渠南镇，2019年12月行政区划调整改革渠南镇调整为渠南街道，现隶属渠南街道，至今。