苍山历史悠久。早在原始社会末期，就有东夷人在这里活动。公元前2053年，夏少康封其少子曲烈于鄫国，县境内至今尚存有鄫国故城遗址。春秋战国时，属楚国兰陵、襄贲二县。秦时属东海郡缯、兰陵、襄贲三县。汉、魏、晋、南北朝时属徐州。隋唐至清属沂州。中华民国二年分临、郯、费三县。抗日战争时期，在中国共产党的领导下，先后成立四县边联办事处、抗日民主政府和边联县。1943年将边联县改为赵鎛县。1947年为纪念1933年党在这里领导和发动的“苍山暴动”而设置苍山县至今。