明清时期实行都里制，属五龙乡通远都。
民国，在明清四乡（太平、五龙、雄山、八谏）基础上实行编村制，也称区村镇制，属县二区（驻地苏店）北天河编村。
1949年，沿用区、村、镇制。
1953年，区下设乡，实行乡村制，属县二区（驻地苏店）北天河乡，下辖北天河、南天河，小坟上。
至1956年，农村进行社会主义改造，组成红胜高级合作社，简称“红胜社”。
组成红星高级合作社，简称“红星社”。
1958年，开始人民公社化，属苏店卫星人民公社苏店管理区。
1961年，卫星人民公社缩划，实行社队制，属苏店公社，置小坟上生产大队，下辖1个生产小队。
1984年，改公社为乡（镇）政府，属苏店镇，小坟上大队随改为小坟上村民委员会，下辖个村民小组。
2000年撤乡并镇，仍属苏店镇。