山亭是山東省棗莊市的市轄縣級區，歷史悠久，鐘靈毓秀，自古以來就是文明禮儀之邦，歷史文化源遠流長。早在7300年前的新石器時代，這里就有人類繁衍生息。山城街道東江遺址、西集建新遺址等地曾發現多處大汶口文化、龍山文化遺址。

西周時期，山亭區屬倪國。邾武公夷父顏有功于周王朝，周王封他的庶子友來 ，在商代子姓方國（諸侯國）的廢墟上立國，國號仍叫倪國，友的子孫三代一直居城為國君。到友的曾孫犁來第四代國君時，始東遷四十周里建城立國（都城在今棗莊市山亭區東江村東江遺址），城初名犁來城、倪犁城，其后也被呼為倪城，又稱倪國。山亭區東江村仍保留有倪城遺址。

春秋至戰國時期，山亭區全境屬小邾國。倪犁來始得周王之命晉封“子”爵。倪犁來晉爵后，倪犁來更改國號，把倪國更名為小邾國。自友到犁來，四代國君才始稱小邾子，倪犁來城也開始俗稱為小邾城，地處齊、魯、宋、楚等大國之間的一個諸侯國。小邾（倪）國鼎盛時期的疆域大體范圍為山亭區全部，東達蘭陵縣西部，北達平邑縣、費縣南緣，西達滕縣中部，南達嶧城區，南北長約55公里，東西寬約45公里，總面積約2475平方公里。

楚宣王在位時（公元前369——前340年）滅小邾國，掠走了“二邾”的遺民南遷邾城，現山亭區全境屬楚。

秦漢時期，合鄉縣（今山東山亭），古代縣名，又稱“互鄉”。最早為春秋小邾國城邑。秦、漢之際始設為縣。秦制“十里一亭，以山名亭，山水亭臺”，劃分合鄉縣山亭，山亭之名沿襲至今。三國魏改合城縣。西晉復名合鄉縣。

西晉惠帝元康元年（公元291年），將原屬東海郡的蘭陵、氶、戚、合鄉（山亭）、昌慮析置蘭陵郡，山亭區全境屬蘭陵郡。

隋唐兩代，公元621年（唐武德四年），山亭屬沂州瑯琊郡合鄉縣。因山川形異，薛河源地。翼云吐霧，青屏壯闊。王勃、李白等詩人都在這里生活、游覽過。《山亭興序》“仁者樂山，智者樂水，即云深山大澤，龍蛇為得性之場；廣漢巨川，珠貝是有殊之地。”唐開元二十四年,李白客寓任城,書有《任城縣廳壁記》其中“魯境七百里，郡有十一縣，任城其沖要。東盤瑯邪，西控巨野，北走厥國，南馳互鄉（合鄉縣）。”

元代（1271年—1368年），山亭區全境屬山東西路。

明清時期，山亭屬兗州府，屬兗沂曹濟道，并為道治所。兗州府領濟寧、東平、曹、沂四州二十三縣（滋陽、曲阜、合鄉、鄒、泗水、滕、嶧、汶上、陽谷、壽張等縣），明代萬歷二十四年《兗州府志》載有地圖、文字，即當今山東省棗莊市山亭區東江村東江遺址。后廢互鄉縣（合鄉），北改屬滕縣，南改屬嶧縣。

中華民國（1912年—1949年）

滕東縣時期，1939年8月，根據山東分局批示，津浦路以東、抱犢崮以西大片地區建立滕東縣（今山亭）委，縣委書記由原滕縣縣委書記王丹墀擔任，組織部部長李子成，宣傳部部長朱紹庭，武裝部部長朱慕唐。隸屬魯南三地委領導，機關駐山亭區駁山頭村。1941年2月撤銷。滕東縣委的成立，有效地組織和發動群眾進行抗日救亡運動。

嶧縣抗日民主政府時期，1939年11月20、21日，在八路軍115師及魯南三地委的領導下，魯南地區第一個抗日民主政府——嶧縣抗日民主政府成立大會，在現在的棗莊市山亭區鳧城鄉王家灣村。180人參加代表大會，民主產生了嶧縣抗日民主政府，115師民運部長潘振武任縣長。115師政委羅榮桓、魯南三地委書記宋子成到會并講話，不久縣政府遷到現在的山亭區北莊鎮南泉村。

雙山縣、 麓水縣時期，1943年8月，魯南區黨委確定費滕邊實驗縣和邊西縣合并建立費滕嶧中心縣委，集中有效力量開展與敵九十二軍和地方土頑的斗爭。1944年4月，區黨委及軍區為集中力量主動抗擊敵頑，開辟新區工作，決定將費滕嶧中心縣委改為雙山縣委，縣委機關駐棗莊市山亭區徐莊鎮核桃峪村。1946年4月，雙山縣改名麓水縣，屬尼山專區。1950年5月撤銷，其轄區并入白彥縣。

中華人民共和國，山亭境內鄉鎮街（道）屬齊村區（至今位于棗莊市中區原齊村區的資產歸山亭區所有）。1983年11月，經山東省人民政府批準，并報國務院備案。按照原縣城舊址區域，將14處公社合并組成山亭區，齊村區政府機關遷至山城街道，為棗莊市市轄縣級區。