西漢元狩二年（前121）置玉門、池頭、乾齊、天䧇4縣，隸酒泉郡。
元鼎六年（前111）增冥安縣，隸敦煌郡。
王莽“新”政（8）改玉門縣為鋪平亭，改乾齊縣為測虜。
東漢建立（25）后改鋪平亭為玉門縣，改測虜為乾齊縣，改池頭縣為沙頭縣，廢天䧇縣，增延壽縣。
玉門、沙頭、乾齊、延壽4縣隸酒泉郡，冥安縣隸敦煌郡。
三國屬曹魏，沿東漢制。
始于魏黃初元年（220）。
西晉建立（265）后，初沿曹魏制，元康五年（295）增晉昌郡，玉門、延壽、骍馬3縣隸酒泉郡，沙頭、乾齊、冥安、會稽、新鄉(xiāng)5縣隸晉昌郡。
東晉十六國（301-442）先后由前涼、前秦、后涼、西涼、北涼政權割據(jù)。
晉隆安4年（400）李暠增會稽郡，玉門、沙頭、乾齊、延壽、骍馬、新鄉(xiāng)6縣隸會稽郡，冥安縣隸晉昌郡。
北涼郡縣無常。
北魏建立（442）后增玉門郡，廢骍馬、沙頭、乾齊3縣，玉門、延壽2縣隸玉門郡，冥安、新鄉(xiāng)2縣隸晉昌郡。
西魏建立（534）后置會稽縣，隸常樂郡。
隋開皇三年（615）后置常樂、玉門2縣，隸敦煌郡。
唐武德二年（619）置玉門軍，先是玉門軍、玉門縣并存，后玉門縣廢而又復，天寶十四年（755）廢玉門軍，廣德二年（764）土蕃占據(jù)，大中五年（851）玉門縣復歸唐朝，置玉門鎮(zhèn)。
唐時玉門軍（縣）隸肅州（酒泉郡）。
唐末宋初（851-1036），先屬張氏歸義軍，后屬曹氏歸義軍，張氏歸唐，曹氏附宋，間有甘州回鶻、沙州回鶻短暫割據(jù)。
宋為西夏地（1036～1277），隸瓜、肅2州。
元政權建立（1264）后隸瓜、肅2州。
明洪武九年（1376）后置赤斤蒙古所，后升為衛(wèi)。
明末清初（1528-1716）荒蕪。
清康熙五十七年（1716）置赤金、靖逆2衛(wèi)，隸安肅道。
乾隆三十八年改為玉門縣，隸安西州。
1912年，設玉門縣，隸安肅道，縣設治城、臨城區(qū)、柳渠區(qū)、赤金區(qū)、花海區(qū)、昌馬區(qū)。
十六年隸安肅行政區(qū)。
1929年，改設為五區(qū)，區(qū)下編村，其中：第一區(qū)（今玉門鎮(zhèn)、黃閘灣鄉(xiāng)、下西號鄉(xiāng)）轄12村。
第二區(qū)（今赤金鎮(zhèn)、清泉鄉(xiāng)）轄7村。
第三區(qū)（今柳河鄉(xiāng)）轄4村。
第四區(qū)（今昌馬鄉(xiāng)）轄7村。
第五區(qū)（今花海鄉(xiāng)）轄4村。
1936年，隸第七行政區(qū)（是年成立酒泉公署）。
1938年，在漢口設立甘肅油礦籌備處，籌備開發(fā)玉門油礦，1941年在重慶成立甘肅油礦局。
1943年，設一鎮(zhèn)五鄉(xiāng)，晉昌鎮(zhèn)、柳河鄉(xiāng)、靖邊鄉(xiāng)、花海鄉(xiāng)、赤金鄉(xiāng)、昌馬鄉(xiāng)。
1946年撤銷甘肅油礦局，部分人員遷至上海成立中國石油公司，部分人員遷至玉門成立甘青分公司。
中華人民共和國成立以來1949年9月25日，玉門油礦解放，實行軍事管制，26日，玉門縣解放。
10月8日，玉門縣人民政府成立，治晉昌鎮(zhèn)（今玉門鎮(zhèn)），隸酒泉分區(qū)行政督察專員公署。
12月，設6區(qū)40鄉(xiāng)，即晉昌區(qū)，8鄉(xiāng)，含解放、得勝、和平三個街政府；靖邊區(qū)，10鄉(xiāng)；柳河區(qū)，7鄉(xiāng)；赤金區(qū)，6鄉(xiāng)；花海區(qū)，5鄉(xiāng)；昌馬區(qū)，4鄉(xiāng)。
共有93個行政村，240個自然村。
1950年成立玉門礦務局，取消軍事管制。
1952年12月，將赤金區(qū)劃分為赤金、惠民2區(qū)。
1953年，將靖邊區(qū)劃分為靖東、靖西2區(qū)。
1953年10月26日，玉門油礦成立相當于丁等縣礦區(qū)人民政府。
1955年10月，成立專區(qū)級玉門市，省轄市，玉門縣的白楊河鄉(xiāng)劃歸玉門市，玉門縣改隸張掖專員公署（撤酒泉公署后酒泉屬縣改由張掖公署管轄），縣有8區(qū)45鄉(xiāng)，共126個初級農業(yè)合作社。
11月，撤區(qū)并鄉(xiāng)，由45鄉(xiāng)合并為21鄉(xiāng)，即新民、赤峽、建設、火燒溝、大廟、屯城、東渠、城郊、下東號、西紅號、塔爾灣、南陽鎮(zhèn)、黃花營、官莊子、二道溝、紅旗、蘑菇灘、上窖、下窖、西河、白楊河，另設城關鎮(zhèn)（玉門鎮(zhèn)城區(qū)）。
1958年2月，新建北湖、蘑菇灘、花海三個國營農場（1963年11月組建農建十一師），其后沿革變化頻繁，至2011年形成國有飲馬農場、黃花農場、農墾官莊企業(yè)公司、農墾建筑公司四個農墾團場。
6月，撤銷新民、建設2鄉(xiāng)，成立赤金鄉(xiāng)；紅旗鄉(xiāng)并入二道溝鄉(xiāng)。
全市共有高級農業(yè)合作社50個。
1958年9月，成立人民公社6個，即紅旗（赤金）、紅星（含原城關鎮(zhèn)、城郊鄉(xiāng)、下東號鄉(xiāng)、西紅號鄉(xiāng)）、躍進（含原柳河）、火箭（花海）、衛(wèi)星（靖西）、東風（含原上窖鄉(xiāng)、下窖鄉(xiāng)、西河鄉(xiāng)）。
共有生產大隊50個，生產隊357個。
11月26日，玉門縣行政建置并入玉門市（專區(qū)級），治所在老君廟，并紅星、躍進、衛(wèi)星為玉門鎮(zhèn)人民公社，轄4個管理區(qū)，即城郊、靖東、靖西、柳河管理區(qū)，改東風人民公社為昌馬人民公社，改紅旗人民公社為赤金人民公社（轄清泉管理區(qū)），改火箭人民公社為花海人民公社，共有生產大隊44個，生產隊342個。
同年成立甘肅礦區(qū)。
1960年11月，成立新民鎮(zhèn)（玉門東火車站）。
1961年5月，將4個管理區(qū)撤銷，公社劃小，全市設8個人民公社，即玉門鎮(zhèn)、下西號、黃閘灣、柳河、昌馬、赤金、花海、清泉；另設1鎮(zhèn)，即玉門鎮(zhèn)。
共有生產大隊44個，生產隊352個。
12月，撤銷專區(qū)玉門市，玉門市、玉門石油管理局政企分設，玉門市改為縣級市，隸酒泉專員公署。
1962年12月，撤銷新民鎮(zhèn)，成立東站街道辦事處。
1967年4月，軍隊介入地方政權，玉門市成立軍事管制委員會，實行軍管。
1968年3月，成立玉門市革命委員會。
1978年12月，隸屬酒泉地區(qū)行政公署。
1980年12月，撤銷玉門市革命委員會，恢復玉門市人民政府。
1983年3月，撤銷人民公社，分別更名為鄉(xiāng)（鎮(zhèn)）人民政府，原大隊改為村民委員會。
是年，全市設1鎮(zhèn)8鄉(xiāng)，即玉門鎮(zhèn)、玉門鎮(zhèn)鄉(xiāng)、下西號鄉(xiāng)、黃閘灣鄉(xiāng)、柳河鄉(xiāng)、昌馬鄉(xiāng)、赤金鄉(xiāng)、花海鄉(xiāng)、清泉鄉(xiāng)，共轄村民委員會63個，生產大隊402個。
1985年6月，撤銷玉門鎮(zhèn)鄉(xiāng)，并入玉門鎮(zhèn)；撤銷赤金鄉(xiāng)，成立赤金鎮(zhèn)；撤銷玉門東站街道辦事處，設玉門東鎮(zhèn)。
1995年成立省疏勒河管理局（正廳級）。
1998年8月18日，成立玉門市小金灣東鄉(xiāng)族鄉(xiāng)，行政區(qū)域面積11。
0平方千米，轄5個村委會，30個村民小組。
1996年12月9日，清泉鄉(xiāng)政府駐地從火燒溝遷至躍進。
2001年10月17日中石油批準玉門油田分公司向酒泉搬遷。
2002年6月15日，花海撤鄉(xiāng)建鎮(zhèn)。
6月25日，從花海行政區(qū)域內給小金灣東鄉(xiāng)族鄉(xiāng)調整11.5平方千米，調整后小金灣東鄉(xiāng)族鄉(xiāng)行政區(qū)域面積為22。
5平方千米。
9月，玉門市改由甘肅省直屬，酒泉市代管。
2003年4月4日，民政部批準玉門市政府駐地由原址解放路遷至玉門鎮(zhèn)。
7月15日，撤銷南坪、北坪、新市區(qū)3個街道辦事處，同時設立老君廟鎮(zhèn)。
12月12日，省民政廳批復撤銷玉門市清泉鄉(xiāng)、玉門東鎮(zhèn)，并入老君廟鎮(zhèn)。
12月28日，甘肅省疏勒河流域管理局掛牌成立，原酒泉市疏勒河管理局并入。
2004年合村并組，村委會由69個合并為45個，村民小組由444個合并為226個，居委會由20個撤并為12個。
12月27日成立老市區(qū)管理委員會。
2005年，民政廳批復撤銷昌馬鄉(xiāng)，將昌馬鄉(xiāng)并入赤金鎮(zhèn)。
2005年12月，民政廳批復成立柳湖鄉(xiāng)，鄉(xiāng)政府駐岷州村，設5個行政村、21個村民小組，2006年7月18日正式掛牌。
6月，市政府批準在玉門油田酒泉生活基地新設立怡靜園、兆祺園、玉蘭園、芳沁園、紫荊園、療養(yǎng)院等6個社區(qū)居民委員會。
2006年9月8日，玉門市政府在玉門鎮(zhèn)的新辦公大樓正式掛牌。
2007年4月批準成立七墩灘移民工作站，由柳河鄉(xiāng)代管，設3個行政村、10個村民小組。
2007年8月，酒泉市批復設立玉門新市區(qū)街道辦事處（轄南街、北街、玉關路、蘭新路4個城市社區(qū)居委會）。
10月，市政府批準在玉門油田酒泉生活基地設百合園社區(qū)居委會，全市社區(qū)居委會總數(shù)達到20個。
2008年4月，民政廳批復成立獨山子東鄉(xiāng)族鄉(xiāng)，鄉(xiāng)政府駐金泉村，設4個行政村、28個村民小組，10月20日正式掛牌。
10月，市政府批復設承瑞園、鴻碩園、天潤園社區(qū)居委會、花海鎮(zhèn)和政社區(qū)居委會、赤金鎮(zhèn)鐵人路社區(qū)居委會，全市社區(qū)居委會達到25個。
2009年6月，民政廳批復成立六墩鄉(xiāng)，鄉(xiāng)政府駐柳北村，設3個行政村、10個村民小組，2010年8月正式掛牌，10月28日又將飲馬農場兩個疏勒河項目移民點劃入，行政村增至5個，村民小組增至16個。
6月7日恢復昌馬鄉(xiāng)建制。
8月，將玉門石油管理局生活基地的10個社區(qū)居委會移交肅州區(qū)管理。
2015年5月，省民政廳批復撤銷柳河鄉(xiāng)、黃閘灣鄉(xiāng)、下西號鄉(xiāng)，設立柳河鎮(zhèn)、黃閘灣鎮(zhèn)、下西號鎮(zhèn)。
2018年5月，省民政廳批復撤銷昌馬鄉(xiāng)、柳湖鄉(xiāng)、六墩鄉(xiāng)，設立昌馬鎮(zhèn)、柳湖鎮(zhèn)、六墩鎮(zhèn)。
現(xiàn)轄轄玉門鎮(zhèn)、赤金鎮(zhèn)、花海鎮(zhèn)、老君廟鎮(zhèn)、柳河鎮(zhèn)、黃閘灣鎮(zhèn)、下西號鎮(zhèn)、柳湖鎮(zhèn)、昌馬鎮(zhèn)、六墩鎮(zhèn)10個鎮(zhèn)，小金灣東鄉(xiāng)族鄉(xiāng)、獨山子東鄉(xiāng)族鄉(xiāng)2個鄉(xiāng)和新市區(qū)街道辦事處，下設59個村民委員會，290個村民小組，26個社區(qū)居民委員會，名稱并沿用至今。