西周時(shí)肥族人散居于此，稱“肥子國”(肥城以此得名)，又有隧國。
西漢置肥成縣，治今老城，于故隧國地置蛇丘縣，據(jù)南境，同屬泰山郡，東漢省肥成縣，蛇丘縣改屬濟(jì)北國。
三國魏復(fù)置肥城縣，西晉又省。
南朝宋徙濟(jì)北郡治于肥城縣故城，北魏復(fù)置肥城縣，孝昌三年(527)置東濟(jì)北郡，治此。
北齊郡廢、省蛇丘縣，存肥城縣。
后周置肥城郡，隋開皇初廢肥城郡，肥城縣屬濟(jì)北郡。
唐武德五年(622)屬東泰州。
貞觀元年(627)東泰州省入兗州，肥城縣省入博城縣、平陰縣。
北宋為兗州奉符縣(唐博縣)、鄆州平陰縣地。
元至元十二年(1275)于平陰縣率鎮(zhèn)寨東北15里肥城舊城復(fù)置肥城縣，屬濟(jì)寧路。
明洪武二年(1369)改屬濟(jì)南府。
清屬泰安府。
1913年屬岱北道(次年改稱濟(jì)南道)。
1925年屬泰安道。
1928年道廢直隸于省。
1938年屬國民黨山東省第一行政督察區(qū)，并為專署駐地。
1939年10月建立肥城縣抗日民主政權(quán)，初屬泰西行政委員會(huì)。
1940年屬魯西行政區(qū)泰西專區(qū)。
1941年7月屬晉冀魯豫第十六(泰西)專區(qū)。
1942年12月屬晉冀魯豫第十六(泰運(yùn))專區(qū)。
1944年6月屬冀魯豫和冀南兩行政區(qū)合并后成立的冀魯豫行政區(qū)第一專區(qū)。
1945年10月原冀魯豫與冀南兩行政區(qū)重新分立，肥城仍屬冀魯豫第一(泰運(yùn))專區(qū)。
1948年7月屬山東省魯中南行政區(qū)第七(泰西)專區(qū)。
1950年5月屬泰安專區(qū)。
1958年12月泰安專區(qū)撤銷，改屬聊城專區(qū)。
1961年7月屬復(fù)置的泰安專區(qū)(1967年改稱泰安地區(qū))。
1985年3月屬泰安市。
1992年8月撤銷肥城縣，設(shè)立肥城市。