宋代設(shè)溫泉團(tuán)，明、清時(shí)屬泉上里和泉下里。
清雍正十二年（1734）設(shè)泉上分縣，置縣丞，分轄泉上、泉下、招賢（今水茜）三里。
1912年撤泉上分縣為泉上公安分局，1927年撤銷公安分局。
1930年蘇區(qū)時(shí)期設(shè)泉上區(qū)，1933年8月設(shè)泉上縣，建立泉上縣蘇維埃政府。
1934年冬為第二區(qū)，設(shè)三個(gè)聯(lián)保，1936年8月改屬三區(qū)（水茜），1941年并聯(lián)保為泉上鄉(xiāng)，1942年撤區(qū)為縣直屬鄉(xiāng)，1943年更名為元仲鄉(xiāng)，轄14個(gè)保。
中華人民共和國成立后，1950年3月屬第四區(qū)（湖村）為元仲鄉(xiāng)，1951年6月為四區(qū)改設(shè)泉上、泉正等6個(gè)鄉(xiāng)，1952年8月第四區(qū)政府遷駐泉上，1954年9月設(shè)泉上鎮(zhèn)和11個(gè)鄉(xiāng)，1956年5月改稱泉上區(qū)，設(shè)泉上鎮(zhèn)和6個(gè)鄉(xiāng)，1958年1月改設(shè)泉上鎮(zhèn)和泉正鄉(xiāng)，1958年10月為泉上公社和泉正公社，1959年2月合并稱泉上公社，1961年6月屬泉上工委分設(shè)泉上、泉正公社，1964年6月撤銷工委，泉上、泉正兩公社合并為泉上公社，1984年8月改制為泉上鎮(zhèn)。