大山腳庄為早年「麻荳堡」最西側的庄社。約於18世紀末,李氏開基祖李天助自福建泉州府同安縣渡臺,攜帶李府千歲及中壇元帥香火,輾轉遷居大山腳。早期庄內未建廟宇,神尊由爐主輪流奉祀;1969年,地方耆老配合中山堂興建計畫籌建今日的大山宮,1971年成立管理委員會。現奉祀李府千歲、中壇元帥及黑虎將軍,其中李府二千歲金身由麻豆代天府分靈迎回。
此外,大山宮旁留有竹管厝,周邊種植阿勃勒,每逢初夏花期,成串黃花與竹厝構成季節景觀,一旁的公廁外牆上也有特別的彩繪,都是適合拍照打卡的點。