以驻地河流名称而命名。
解放前居住有裕固族八个家、五个家、亚拉格家、贺郎格家和藏族黑番家五个部落。
解放初期属高台县管辖，先为直属乡，后改为第六区。
1954年肃南裕固族自治县成立后建立金泉区，驻地红湾寺几个乡。
1958年区址迁往大河，建立大河公社，1962年建置大河区，1967年改名长征区，1972年恢复为大河区，2004年全县行政区划调整将原大河区所属的雪泉乡、喇嘛湾乡、水关乡、韭菜沟乡合并为大河乡。