自唐貞元十六年（800）至清末（1911），屬分寧縣、寧州、義寧州泰鄉(xiāng)八都1914-1949年屬山谷區(qū)安峰鄉(xiāng)。
1949年9月隸屬三都區(qū)山口鄉(xiāng)。
1956年9月隸屬合并后的廟嶺鄉(xiāng)。
1958年7月建紅光升公社設(shè)為山口大隊。
1960年隸屬合并后的太陽升公社，1961年隸屬分設(shè)的廟嶺公社。
1968年與戴家大隊合并為山口大隊，隸屬太陽升公社。
1972年改名為小山口大隊，戴家大隊分出另設(shè)，隸屬廟嶺公社。
1984年改為小山口村，沿用至今。