清代，关上街就有集镇，街道长约400米（宽3米），街房90余间，店铺20余家，农历一四七逢集。
光绪十年毁于水灾，后修复。
民国20年，再次遭水毁，后又复兴。
1952年前属凤县所辖。
1953年，关上街由凤县划归太白中心区靖口区管辖。
1953年以后修建学校等公共建筑，人口、商业贸易在此聚集，城镇逐渐形成。
1958年人民公社时期，关上街和大地岭、冯家山、焦家山四村合并成立关上街生产大队，1961年四村解散，恢复关上街生产大队，1968年关上街生产大队改名为“红卫”大队，1970年恢复原名。
1984年贯彻《村民委员会组织法》成立关上街村民委员会，隶属于太白县靖口乡政府管辖。
1997年10月因机构改革撤乡建镇，关上街村隶属靖口镇至今。