地名由来：明朝永乐二年（公元404年}，刘、杨二氏自山西洪洞县迁此立村，因村建于小山东麓，故名小山村。

小山乡地处沧州市海兴县县域东北部，东与香坊乡接壤，南邻海兴县经济开发区，西邻海兴县中心城区，北邻黄骅市渤海新区，乡域总面积234.40平方公里，现辖19个行政村，到2017年底，人口28872人。乡政府驻地位于乡域中部偏西，距海兴县城8.7公里，西北距沧州市66.8公里，东北距黄骅港20.8公里。乡域内有沿海高速、省道正港公路和省道中辛公路、地方铁路（货运）。其他为联村路。

小山原名马骝山，元代称为小山，是沧州市境内唯一一座山丘，海拔36.18米，现为沧州市最高点。小山由2-3万年前的火山喷发物堆积而成。小山火山地质公园位于小山上，2004年8月被评为省级小山火山地质公园。小山乡水资源丰富，主要水系有淤泥河、宣惠河和大浪淀排渠。乡域东部为大片盐田。