山东省博物馆成立于1954年。当时馆址分为东西两院,东院位于济南市广智院街广智院旧址,系1904年英国浸礼教会牧师怀恩光创建,原是中国境内最早的博物馆之一;西院位于济南市上新街世界红万字会济南母院旧址,原是一处融道、佛、儒、基督、伊斯兰五教合一的宗教团体驻地,1942年建成。
山东省博物馆建馆之初,藏品来源主要有以下几个方面:一是调拨了原山东金石保存所收藏的青铜器、书画、善本书等一批文物;二是接收了原济南广智院历年来收集的动植物标本、古生物化石以及各类文物藏品;三是接收了原解放区山东人民政府古代文物管理委员会在抗日战争和解放战争时期收集保护的各类文物;另外还接收了部分二十世纪五、六十年代人民群众捐献的传世文物。
1954年至1980年期间,山东省博物馆作为山东惟一的省级文博机构,承担起了山东境内地上地下文物的保护工作,开展了大量田野调查,进行了一系列考古发掘,先后发掘了泰安大汶口、邹城野店、潍坊姚官庄、日照东海峪、滕州岗上、茌平尚庄、蓬莱紫荆山、济南大辛庄、青州苏埠屯、沂源千人洞等重要遗址,保护清理了曲阜九龙山、邹城朱檀墓、临淄郎家庄、临沂金雀山、临沂银雀山、莒南大店、沂南北寨、安丘董家庄等一批大型墓葬,收藏了大量珍贵出土文物,使馆藏文物的数量和质量不断提高,诚为精品荟萃,蔚为大观。
1991年8月,位于济南千佛山北麓的新馆动工兴建,1992年10月落成开放,山东省博物馆发展为富有地方特色的、包括历史、自然、艺术等多门类的新型省级博物馆,成为全省文物的收藏中心,拥有各类藏品20余万件,尤以陶瓷器、青铜器、甲骨文、陶文、封泥、玺印、简牍、汉画像石、书画、善本书等更具特色。
进入新世纪,山东省的社会经济快速发展,人民生活水平不断提升,对文化设施和文化生活提出了更高要求。2006年,山东省委省政府提出了建设山东文化强省的战略目标,山东省博物馆新馆建设又一次提上日程,成为省委省政府贯彻落实科学发展观,繁荣发展山东文化事业、促进文化资源大省向文化强省跨越的一项重大决策。新馆选址在济南市区主干道经十路东段,2007年12月29日举行奠基,2010年6月圆满竣工,2010年11月16日正式向社会开放,“山东省博物馆”至此更名“山东博物馆”,开启了文博事业的新篇章。
山东博物馆新馆主体建筑面积8.29万平方米、高74米,建成后在馆舍面积、展陈环境、自动化管理、文物保护等硬件设施方面都达到了历史最高水平。