1938年10月,苏鲁豫皖边区省委为适应党的事业发展和抗日战争需要,决定建立边区省委党校。由省委书记郭洪涛兼任校长。党校的公开名称是山东抗日军政干部学校分校(简称干分校),最初设在沂水县岸堤西北部白佛寺(今沂南县中高湖乡石旺庄)。
1938年12月,根据中央决定,苏鲁豫皖边区省委改为中共山东分局,党校也由边区省委党校改为山东分局党校。先后由白佛寺迁到沂水县朱位和夏蔚。1939年10月,郭洪涛赴延安,朱瑞任分局书记兼党校校长。
1940年12月,根据中央指示建立分局高级党校,分局书记朱瑞兼校长,肖华兼副校长。1943年9月,罗荣桓任山东分局书记兼党校校长,分局高级党校复改为分局党校。
1949年9月,山东分局筹建党校,分局委员、宣传部长彭康任校长,校址在济南市经八纬一路(现省委机关大院),1951年迁至经七纬八路。
1955年1月,中共中央山东分局改为中共山东省委,校名随之改为中共山东省委党校。
1955年4月,省委根据中央会议精神,决定建立中级党校,山东省委决定将山东行政学院、政治学校与党校合并建立中央第四中级党校,省委常委、宣传部长夏征农兼任校长,承担山东、安徽两省的中级干部和山东省的初级领导骨干的轮训任务。
1957年7月,中央第四中级党校改由山东省委管理,1958年12月1日复名为中共山东省委党校。此后,先后担任党校校长的有任质斌、王众音、曹普南、白如冰、武开章、梁丰、李昌安、梁步庭、姜春云、赵志浩、吴官正、张高丽、李建国。现任校长为省委书记姜异康。赵强任常务副校长。