轄區(qū)位于小河與恒河交匯處北側(cè)，當(dāng)?shù)胤Q(chēng)恒河為大河而得名。
大河鎮(zhèn)始建明朝中期。
清康熙二十二年（1683年），屬北沈桑鋪所轄。
民國(guó)二十四年（1935年），屬北區(qū)團(tuán)后聯(lián)保與沈桑聯(lián)保的3個(gè)保，后改聯(lián)保為鄉(xiāng)，屬沈桑鄉(xiāng)一、二保。
1949年，設(shè)第十四區(qū)，后改稱(chēng)大河鄉(xiāng)。
1954年，設(shè)大河區(qū)。
1958年，改大河公社大河管理區(qū)。
1961年，成立大河公社。
1983年10月，設(shè)大河區(qū)。
1984年9月，設(shè)大河鎮(zhèn)。
1996年，廟梁鄉(xiāng)并入大河鎮(zhèn)。
2001年11月，流芳鄉(xiāng)并入大河鎮(zhèn)。