明、清時(shí),屬臨朐縣仁壽鄉(xiāng)。
1935年,分屬第七區(qū)和第八區(qū)。
1945年,分屬牛河區(qū)、峰山區(qū)和大關(guān)區(qū)。
1949年后,分屬第八區(qū)、第十區(qū)。
1958年,分屬蔣峪、大關(guān)公社。
1984年,蔣峪公社更名為蔣峪鎮(zhèn),駐地東蔣峪村,大關(guān)公社分為大關(guān)鄉(xiāng)和蒲溝鄉(xiāng)。
1993年6月,大關(guān)鄉(xiāng)和蒲溝鄉(xiāng)合并為大關(guān)鎮(zhèn),政府駐大關(guān)村。
2007年9月,蔣峪鎮(zhèn)和大關(guān)鎮(zhèn)合并,成立沂山鎮(zhèn)。
2013年12月,沂山鎮(zhèn)政府駐地由大關(guān)村遷至蔣峪村,沂山鎮(zhèn)更名為蔣峪鎮(zhèn)。