舊稱“東大崗”。
中華民國初年，屬訥河縣“農(nóng)字段十二區(qū)”。
1915年劃歸克山縣，隸屬第二區(qū)。
1929年12月，劃歸克東設(shè)治局管轄。
東北淪陷后，1939年設(shè)玉崗村。
1945年“九三”抗日戰(zhàn)爭勝利后，設(shè)置玉崗區(qū)，1949年改為第六區(qū)，1955年復(fù)稱玉崗區(qū)。
1956年4月，撤區(qū)劃鄉(xiāng)，分設(shè)玉崗、聯(lián)合、新農(nóng)、新興4個(gè)鄉(xiāng)，1958年9月合并成立玉崗人民公社。
1961年6月，將東部地區(qū)劃出成立新農(nóng)公社。
1984年將玉崗公社改為玉崗鄉(xiāng)。
1996年撤銷玉崗鄉(xiāng)，設(shè)置玉崗鎮(zhèn)，名稱沿用至今。