清末属山阳一里；民国初年，汉阳县建立十八个区，属第十五区；1945年全县分四镇十九乡，属黄陵乡；1949年全县划分为五区一镇，属一区；1952年组成同建一、三社，翌年转为两个高级社；1958年人民公社化时，改名小军大队，属东风人民公社；1961年转为国营东城垸农场，翌年划为军山公社，分为小军、中岭、磨子石、徐家堡4个大队；1965年小军、中岭合并为小军大队；1984年改小军村，设小军村村民委员会，属军山镇；2004年属军山街道；2014年因经济开发，全村计划拆迁，村委会和村民搬迁至小军山社区。