小山村位于萊城東北9公里，鵬山西麓，蟠龍山南麓，南鄰大山村，西與傅家莊村接壤。小山村地處丘陵，耕地742畝，人口595人，181戶。
據(jù)《劉氏譜》記載，明成化年間，劉姓由茶峪村遷此建村。因村東有一小山，故以山名村。后劉姓他遷，現(xiàn)小山以王姓為主，占總?cè)丝诎霐?shù)以上，另有許、李、艾、馮、宋、牛、狄、孟等八姓，其中許、李兩姓人口較多，諸姓村民相處融洽。
清康熙《萊蕪縣志》記載：“鵬山保•小山”。民國時(shí)期小山隸屬傅家鄉(xiāng)；據(jù)民國二十四年的《續(xù)修萊蕪縣志》記載：“傅家鄉(xiāng)•小山”。1941年萊蕪劃為三縣，小山隸屬萊東縣汶陽區(qū)；1945年恢復(fù)萊蕪縣建制，屬萊蕪縣汶陽區(qū)；1950年撤汶陽區(qū)設(shè)礦山區(qū)，小山屬礦山區(qū)；1958年3月屬城關(guān)鎮(zhèn)孝義鄉(xiāng)；同年10月屬孝義人民公社；1959年屬礦山人民公社泉子管區(qū)；1982年屬城關(guān)鎮(zhèn)；1984年屬萊城街道辦事處泉子鄉(xiāng)；1985年屬孝義鄉(xiāng)泉子管區(qū)；2001年元月合鄉(xiāng)并鎮(zhèn)，屬鳳城街道辦事處汶陽管區(qū)至今。
小山村在歷史上屬貧水區(qū)，世世代代備受缺水之苦，嚴(yán)重制約了其生產(chǎn)、生活。1957年，小山百姓以極大的熱情參與修建了小二型水庫楊家橫水庫，后又挖溝筑渠，在村北修建了小塘壩兩座，從根本上解決了本村用水難的問題，使本村的耕地三分之二變成了旱澇保收田。
1993年小山村又修建水塔3座，還投資20萬元為村民安裝了自來水，徹底解決了吃水難的問題。
小山村山場面積600多畝，有發(fā)展畜牧業(yè)的良好條件，村民幾乎家家養(yǎng)羊。前些年由于缺水，村民養(yǎng)羊只是小打小鬧。1993年村里安裝了自來水后，村民養(yǎng)羊的積極性日漸高漲，如今全村養(yǎng)羊在60頭以上的戶就有20多戶�，F(xiàn)在全村年出欄山羊3000多只，成為有名的山羊?qū)I(yè)村。近幾年隨著牛奶的熱銷，小山村民又喂起了奶牛，規(guī)模較大的戶已發(fā)展到10多頭奶牛。
恢復(fù)高考之初，該村的王應(yīng)軍就考入中國人民公安大學(xué)，為本村第一個(gè)本科學(xué)生。后每年都有該村學(xué)生考入大中專院校。其中艾士云現(xiàn)在華東師范大學(xué)攻讀博士學(xué)位，王艷為沈陽師范大學(xué)碩士研究生。
該村東部為老村，老屋與新翻建的房屋相間，后村莊向西發(fā)展，西部為青一色磚瓦結(jié)構(gòu)的房屋，印證了小山村歷史的變化和村民居住條件的日益改善。村中部有一東西街，與入村之路相接，村委、衛(wèi)生所俱在街北。村南有一東西路通往大山。在村東南原有一座馬鞍橋，系石拱橋，建于明朝，工藝高超，20世紀(jì)90年代重建該橋。村東原有一關(guān)帝廟，“破四舊”時(shí)被拆除，現(xiàn)遺址亦已被村民建房。
勤勞、質(zhì)樸的小山人，原來受地理位置、自然條件的制約，只能過著面朝黃土背朝天的生活�，F(xiàn)開發(fā)區(qū)的大道已修到了鄰莊傅家莊，該村亦被規(guī)劃在開發(fā)區(qū)工業(yè)園區(qū)。