地名由来：因境内白土山而得名。

白山乡位于龙江县东南部，地处北纬47°40′，东经123°30′。东邻黑岗乡，东南、南与华民乡、广厚乡接壤，西与景星镇（原永发乡）、山泉镇（原对宝乡）隔河相望，北与龙江镇毗连。全境南北长21.3公里，东西宽18.3公里，幅员面积257平方公里。2004年，白山乡耕地面积241500亩，有住户7625户，人口26127人，非农业人口981人，分布在9个行政村，28个自然屯。乡政府所在地东白土村。

历史沿革：

白土山一带，清代属齐齐哈尔副都统辖区。

中华民国时期，先后隶属龙江县第三区和第二区管辖。

东北沦陷后，初隶朱家坎保，1938年4月改隶朱家坎村。

1945年“九三”抗日战争胜利后，1946年6月隶属朱家坎区，1948年改隶第三区。

1954年设白土山区。

1956年3月，并村划乡，设白山乡。

1958年靠山乡并入，同年9月后道老乡并入，成立白山人民公社。

1960年析置东部地区成立黑岗公社。

1984年5月，白山公社改为白山乡。

2013年10月，撤乡设镇，改为白山镇，名称沿用至今。