唐、宋时期，称末岛。
宋时，属蓬莱县沙门寨地。
元、明时，与大钦岛合称钦岛，属蓬莱县牵牛社。
清道光年间（1821年—1850年），属钦岛社。
民国元年（1912年）后，先后属钦岛社和钦岛乡。
民国三十四年（1945年），属钦岛区。
民国三十七年（1948年），属钦岛乡。
1958年11月，长岛县并入蓬莱县后，为长岛公社钦岛大队。
1963年6月，复置长岛县，改设钦岛公社。
1984年3月，撤销钦岛公社，设立钦岛乡。
1985年4月，从钦岛乡划出小钦岛，设立小钦岛乡。
2000年12月，撤销小钦岛乡，设立小钦岛区公所。
2003年2月，复设小钦岛乡。