清初，黑龙江上游以北的达斡尔、索伦（今称鄂温克）部内迁，到讷谟尔河流域落居，建立了索勒格尔、红霍尔基（又作“红花基”，今团结村）、两间房（今团结村五队）、托密浅（今新生村）等屯落。
清康熙二十九年（1690），归东布特哈总管管辖。
清宣统二年（1910），隶属讷河直隶厅管辖。
1915年，划归克山县管辖。
1929年3月，划归德都设治局管辖，始为第四区，后改为第五区。
1946年3月，隶属北和区，1949年6月改隶第二区。
1956年3月，并村划乡，设置团结乡。
1959年初更名为团结管理区，隶属青山公社。
1961年4月，将团结管理区划出，改建团结公社，隶属北安市管辖。
1963年9月，恢复德都县后，隶属德都县管辖。
1984年春，改为团结乡。
1996年，德都县与原五大连池市合并成立五大连池市后，隶属五大连池市管辖。
2014年11月，经省政府批准撤乡设镇，设立团结镇。
名称沿用至今。