1940年3月14日，臨沂縣抗日民主政府成立后，一直為冊山區(qū)駐地。
1945年9月11日，臨沂城解放，屬冊山區(qū)。
1947年2月15日，國民黨軍侵占臨沂城。
1948年10月10日，我軍收復臨沂城，屬臨沂縣冊山區(qū)。
1951年3月28日，改為臨沂縣第八區(qū)。
1955年10月1日，改稱冊山區(qū)。
1958年2月，區(qū)改鄉(xiāng)，同年8月，改稱燎原人民公社，次年3月，改稱冊山人民公社。
1958年12月20日，臨沂縣改為臨沂市，屬縣級臨沂市。
1959年3月18日，改稱冊山人民公社。
1962年8月16日，復稱冊山區(qū)。
1963年3月16日撤銷臨沂市，恢復臨沂縣，屬臨沂縣。
1969年1月20日，又稱冊山人民公社，同時從冊山北部劃出部分村莊設立塘崖人民公社。
1970年4月7日，再次稱冊山區(qū)。
1971年3月24日，復稱冊山人民公社。
1984年，撤銷臨沂縣，恢復臨沂市，屬縣級臨沂市。
1984年4月14日，經省政府〔魯政函141號文件〕批準，冊山人民公社改稱冊山鄉(xiāng)。
1994年9月經省政府批準，冊山鄉(xiāng)更名為冊山鎮(zhèn)。
1995年2月12日正式辦公，冊山鎮(zhèn)劃歸羅莊區(qū)管轄。
2002年2月1日，經省政府〔魯政函民字（2002）9號〕批準，撤銷冊山鎮(zhèn)，設立冊山街道辦事處。