長淮街道前身是合肥郊區(qū)瑤海街道，1992年11月7日，成立“合肥市郊區(qū)瑤海街道辦事處籌備組”，1993年4月17日，瑤海街道成立。
2002年3月6日，更名為長淮街道，2005年4月，三角線社區(qū)，紅星村社區(qū)由瑤海區(qū)車站街道劃歸長淮街道，長淮街道管轄6個社區(qū)。
2016年將長淮街道新蚌埠路及淮南線鐵路以西板橋，三角線，七里塘3個社區(qū)整建制劃出。
2020年4月社區(qū)優(yōu)化調(diào)整后，現(xiàn)轄長淮、勝利、臨泉路、火車站、元一5個社區(qū)居民委員會，至今未變動。