張?zhí)m鎮(zhèn)為西漢文帝中都舊址。
隋唐時期名張?zhí)m堡。
明初境內(nèi)設(shè)南張里、北張里、田堡里、上梁里、下梁里、張原里、史村里。
明萬歷二十七年（1599），合里并甲，境內(nèi)設(shè)南張里、張史里（張原里與史村里合并）、北堡里（北張里與田堡里合并）、東梁上下里（東神里與上里里、下里里、下梁里合并）。
清順治九年（1652），谷南興里與南張里合并為北谷里、北堡里與張史里合并為北史里。
清乾隆十七年設(shè)巡檢，乾隆二十二年置汾州府同知衙駐張?zhí)m，專管洪山水利事務(wù)。
1918年改為區(qū)村制，為第四區(qū)管轄。
1949年，屬一區(qū)人民政府，1953年6月，設(shè)張?zhí)m鄉(xiāng)，屬第一區(qū)。
1958年5月，張?zhí)m、北辛武2鄉(xiāng)合并為張?zhí)m鄉(xiāng)。
同年9月，并入躍進人民公社。
1959年3月，設(shè)張?zhí)m人民公社，1961年4月，三縣分設(shè)后，復(fù)設(shè)張?zhí)m公社。
1963年，張?zhí)m公社的東街、西街、南街、北街四個大隊合并為張?zhí)m大隊，張?zhí)m公社轄9個生產(chǎn)大隊。
1984年4月，政社分開，改稱張?zhí)m鄉(xiāng)。
同年9月，改稱張?zhí)m鎮(zhèn)，沿用至今。