金山街道境内主要区域，是自北宋皇祐四年（1052年）筑城以后的梅州古城之地。
清康熙初年，程乡县（今梅县）划分36堡，本境统称城内，分属东街堡、西街堡。
民国初年，仍沿用清制，至民国二十年（1931年），由堡改为区乡制时，境内为附城镇、城内乡属。
民国二十六年（1937年），推行区乡镇保甲制时为梅城镇属。
中华人民共和国成立后，仍为梅城镇属。
1975年5月，设中区管理委员会，直属梅县梅州镇，由原梅城镇金山、中山、东风3个街道办事处的22个居委会合并而成。
1978年12月，梅州镇升格为梅州市（县级），撤销中区管理委员会，改设中区办事处。
1983年3月，梅县、梅州市（县级）合并成立梅县市，仍称中区办事处。
1988年县区分设，中区办事处更名为金山办事处，隶属梅州市梅江区。
2002年8月，原金山办事处、东山办事处、东郊镇合并为金山街道。