เมืองมหาสารคามถือว่าเป็นแหล่งโบราณคดีที่สําคัญ และยาวนานมาหลายร้อยปปี เพราะได้พบหลักฐานทางโบราณคดี ที่ได้รับอิทธิพลทางพุทธศาสนาตั้งแต่สมัยคุปตะตอนปลาย และปัลลวะของอินเดีย ผ้านเมืองพุกามมาในรูปแบบของ ศิลปะสมัยทวารวดี เช่น บริเวณเมืองกันทรวิชัย (โคกพระ) และเมืองนครจำปาศรี โดยพบหลักฐาน เป็นพระยืนกันทรวิชัย พระพิมพ์ดินเผา ตลอดทั้งพระบรมสารีริกธาตุ นอกจากนั้นแล้ว ยังได้รับอิทธิพลของศาสนาพราหมณ์ผ่านทางชนชาติขอม ในรูปแบบสมัยลพบุรี เช่น กู่สันตรัตน์ กู่บ้านเขวา กู่บ้านแดง และกู่อื่น ๆ รวมไปจนถึงเทวรูปและเครื่องปั้นดินเผาของขอม อยู่ตามผิวดินทั่ว ๆ ไปในจังหวัดมหาสารคาม
มหาสารคามตั้งอยู่ตอนกลางของภาคอีสาน มีชนหลายเผ่า เช่น ชาวไทยพื้นเมืองพูดภาษาอีสาน ชาวไทยย้อ และชาวผู้ไท ประชาชนส่วนใหญ่นับถือพุทธศาสนา ปฏิบัติตาม ขนบธรรมเนียมจารีตประเพณี “ฮีตสิบสอง” ประกอบอาชีพ ด้านกสิกรรมเป็นส่วนใหญ่ ใช้ชีวิตอย่างเรียบง่ายมีการไปมาหาสู่กัน ช่วยเหลือพึ่งพาอาศัยกันตามแบบของคนอีสานทั่วไป เมื่อวันที่ 22 สิงหาคม พ.ศ. 2408 พระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัวได้มีพระบรมราชโองการโปรดเกล้าฯ ให้ยก ”บ้านลาด กุดยางใหญ่” ขึ้นเป็นเมืองมหาสารคาม โดยแยกพื้นที่และ พลเมืองราวสองพันคนมาจากเมืองร้อยเอ็ด และให้ท้าวมหาชัย (กวด ภวภูตานนท์) เป็นพระเจริญราชเดช เจ้าเมือง มีท้าว บัวทองเป็นผู้ช่วยขึ้นกับเมืองร้อยเอ็ด
ต่อมาโปรดเกล้าฯ ให้แยกเมืองมหาสารคามขึ้นตรง กับกรุงเทพมหานคร เมื่อ พ.ศ. 2412 และร้อยเอ็ดได้แบ่ง พลเมืองให้อีกราวเจ็ดพันคน พลเมืองเดิมอพยพมาจากเมือง จําปาศักดิ์ ท้าวมหาชัยและท้าวบัวทองน้ันเป็นหลานโดยตรง ของพระยาขัติยวงศา (สีลัง) เจ้าเมืองคนที่ 2 ของเมืองร้อยเอ็ด เดิมกองบัญชาการของเมืองมหาสารคามตั้งอยู่ที่เนินสูง แห่งหนึ่งใกล้กุดนางใย ได้สร้างศาลเจ้าพ่อหลักเมืองและ ศาลมเหศักดิ์ขึ้นเป็นที่สักการะของชาวเมือง
เมืองมหาสารคามได้สร้างวัดดอนเมือง ซึ่งภายหลังเปลี่ยน ชื่อเป็น วัดขาวฮาว (วัดธัญญาวาส) และได้ย้าย กองบัญชาการไปอยู่ริมหนองกระทุ่มด้านเหนือของวัดโพธิ์ศรี ปัจจุบัน ในปี พ.ศ. 2456 หม่อมเจ้านพมาศ นวรัตน์ เป็น ปลัดมณฑลประจําจังหวัด โดยความเห็นชอบของพระมหาอํามาตยาธิบดี (เส็ง วิริยะศิริ) ได้ย้ายศาลากลางไปอยู่ที่ตั้ง ศาลากลางหลังเดิม (ที่ว่าการอำเภอเมืองมหาสารคามปัจจุบัน) และในปี พ.ศ. 2542 ได้ย้ายศาลากลางไปอยู่ ณ ที่ตั้งปัจจุบัน มีผู้ดำรงตำแหน่งเจ้าเมือง หรือผู้ว่าราชการจังหวัด รวม 46 คน