原名“二站”。
清雍正十年（1732)，黑龙江将军开辟齐齐哈尔城至呼伦贝尔城的驿道——龙海路，于此地设立驿站。
从齐齐哈尔城开始，排序为第二站，故名“二站”。
属齐齐哈尔副都统辖区。
清光绪三十二年（1906)，甘井子荒务行局于二站附采定城址，勘建“三里三城基”，翌年街基落成，荒务行局自甘井子屯迁至二站。
清光绪三十四年（1908）撤销荒务行局，设置甘井子巡防局，二站为巡防局所在地。
中华人民共和国成立后，1914年7月，划归龙江县，改设县属甘井子佐治局。
1916年划归布西设治局管辖。
1921年隶属第一保。
1926年2月，将甘井子佐治局正式改设甘南设治局，二站改名为“甘南镇”，成为治城。
1928年划为设治局第一区。
东北沦陷后，1933年将设治局改为甘南县，甘南镇初为第一保。
1938年改为甘南村。
1945年“九三”抗日战争胜利后，1946年3月划归第一区管辖。
1951年11月将甘南镇划为区属镇。
1955年12月，改为区级镇，由县直辖。
1958年9月，与附近乡村合并成立红旗人民公社。
1960年3月，从红旗公社划出，改称甘南镇公社。
1980年9月，改称甘南镇，名称沿用至今。