民國(guó)二年（1913年），小江湖街道境域?qū)賹殤c縣。
民國(guó)二十七年（1938年），屬邵陽(yáng)縣安和鎮(zhèn)。
1949年10月，屬邵陽(yáng)縣一區(qū)仁義鄉(xiāng)。
1951年，屬邵陽(yáng)市郊區(qū)城東鄉(xiāng)。
1958年9月，鄉(xiāng)改公社。
1960年4月，東站辦事處與青龍橋辦事處以及城東人民公社合并組成東風(fēng)人民公社。
1962年10月，市區(qū)撤社設(shè)辦事處，分屬東風(fēng)辦事處和城東人民公社。
1977年12月，設(shè)立東、西、橋頭、郊區(qū)4區(qū)（縣級(jí)），設(shè)立工業(yè)街街道，屬東區(qū)，辦事處駐田江路。
1979年10月，更名為小江湖街道。
1981年11月，城東公社長(zhǎng)嶺、雙清2個(gè)大隊(duì)劃入小江湖街道，成立長(zhǎng)嶺、雙清2個(gè)居民委員會(huì)。
1997年10月，撤銷(xiāo)東區(qū)、西區(qū)、郊區(qū)，調(diào)整設(shè)立雙清區(qū)、大祥區(qū)、北塔區(qū)，屬雙清區(qū)。
2002年，13個(gè)居民委員會(huì)調(diào)整為8個(gè)社區(qū)。