Mardin Merkez Şar Mahallesi, Birinci Cadde’de, Cumhuriyet Meydanı’nın kuzeyinde bir grup Süryani evinin arasında bulunan Müze binası, binanın doğu tarafına bitişik olan Meryem Ana Kilisesi’nin Müzeye bakan kapalı portelindeki kitabeye göre 1895 yılında Antakya Patriği İgnatios Behnam Banni tarafından Süryani Katolik Patrikhanesi olarak yaptırılmıştır. Uzun bir süre dini amaçlı hizmet veren yapı, daha sonraları askeri garnizon, çeşitli siyasi partilerin merkezi, kooperatif binası, sağlık ocağı ve polis karakolu olarak kullanılmıştır.
Bina’yı Süryani Katolik Vakfından satın alan Kültür Bakanlığı restorasyon yapmış, 2000 yılında Mardin Müzesi’ni Zinciriye Medresesi’nden alarak bu binaya taşımıştır. Müze binası, kurulu bulunduğu alandaki arazi eğiminin ve parsel derinliğinin fazla olması nedeniyle tasarımın teraslamalar biçiminde üç kat olarak gerçekleşmesine neden olmuştur. 1947 yılından beri hizmet veren Mardin Müzesi, bünyesinde bulunan eserlerin çeşitliliği ile de oldukça dikkat çekicidir.
Şırnak, Batman, Siirt gibi illerimizde müze bulunmadığından buradaki eserlerin korunup sergilenmesi için de çalışmalar sürdüren müzede Paleolitik Çağdan MS 19.yy’a kadar olan dönemleri kapsayan buluntular sergilenmektedir. Müze’nin üç adet kapalı teşhir salonu ve iki adet açık teşhir alanı bulunmaktadır.