原为牟平县辖地。
1941年属牟海行政公署第二区。
1942年，属第三区。
1945年，属乳山县黄山区。
1951年，区下设乡，辖区设胡家、万户、大史家、小史家、上册、八里甸、上夼、林家、店子头9乡。
1956年，合并为孤山、万户、上册三乡，属黄山区。
1957年7月，撤区，3乡直接属县。
1958年2至7月，上册乡、万户乡先后并入大孤山乡；9月成立上册人民公社；12月，乳山县建制撤销，划归烟台市。
1960年3月，改属牟平县。
1961年10月，重设乳山县后，复属乳山县。
1981年，更名为大孤山人民公社。
1984年3月，改建为大孤山乡。
1989年12月撤乡，建大孤山镇，至今。