Mardin, Mezopotamya Ovası’na hakim stratejik bir noktada, 1325 m. yükseklikte bir plato üzerinde yer almaktadır. İlk olarak M.S. 4. yy.’da Ammianus Marcellinus tarafından “Marde” olarak adlandırılmıştır. Mardin adının etimolojisi hakkında bu tarihten önceye tarihlenen güvenilir bir kaynak bulunmamaktadır.

Mardin kent merkezinde daha eski kültürlere ait izler saptanamamıştır. Ancak Mardin’i sadece bugünkü kent merkezinden ibaret değerlendirmek yanlış olacaktır. Mardin, Eski Mezopotamya siyasi ve kültür tarihinde çevresiyle önemli bir rol oynamıştır.

Yazılı tarihin başlamasına kadar geçen devirlere ilişkin en önemli bilgi kaynağı arkeolojik kazılar ve araştırmalardır. Mardin yöresinin yerleşik tarım öncesi, büyük ölçüde Erken Neolitik Dönem’e ortaya çıkan köy yerleşmeleriyle bilinmektedir. Habur ve Belih ırmaklarıyla sulanan Cezire Bölgesi ve Dicle’nin yukarı bölgelerinden başlayarak Zap Suyu’nun Dicle’ye katıldığı noktaya kadar uzanan Dicle Havzası “Verimli Hilal”in ortadaki parçasını oluşturur. Bu bölgede tarımın başladığı ilk yerleşik tarımcı toplulukların yaşadığı, Sincar Dağı’nın etekleri ile Dicle Nehri’nin bu bölgesi kesen alanlardandır.

Kalkolitik Dönem’de, Mardin yöresini büyük ölçüde etkisine alan kültür Halaf kültürüdür. Tur Abdin’in yamacından başlayarak Güney Mardin yöresine kadar, Habur Havzası içindeki birçok höyük Halaf yerleşmesi olarak tanımlanmıştır. Bugün Suriye sınırları içinde kalan höyük, tarih öncesi dönemde bölgenin önemli ticaret merkezidir.

Yazılı belgeler, Tur Abdin’in (Mardin Eşiği) Asur Dönemi’ndeki stratejik önemini ortaya koymaktadır. Mardin’in güneyinde, Mezopotamya ovası üzerinde bulunan bazı önemli merkezler büyük olasılıkla Eskiçağ’da günümüz Mardin kentini temsil etmiştir ve Mezopotamya kültür tarihinde önemli rol oynamışlardır. Tur Abdin’in eteklerinde yer alan Gülharrin, Kızıltepe şehir merkezi içinde bulunan Tel Ermen ve Gürbelle höyükleri önemli örneklerdir. Gülharrin, “Kral Yolu” üzerindeki hakim konumu nedeniyle, Asur dönemlerinden antik çağlara kadar önemini korumuştur. Her üç merkez de M.Ö 3. Binden 1. Bine kadar yerleşime sahne olmuştur. Özellikle Gürbelle, burada bulunan ikisi erkek biri kadın olmak üzere üç heykelle tanımlanmaktadır.

M.Ö. 9. yy.’a tarihlenen heykeller, yerel özellikler gösterseler de Arami Kültürü’nü yansıttıkları söylenebilir.

Çevresindeki bölgeler arasında kentin bulunduğu Tur Abdin, Çağçağ suyu, Suriye sınırı boyunca devam eden Kral yolu, Nusaybin ve bugün il sınırları dışında kalmış olsa da Cudi Dağı, Mardin arkeolojisi ve kültürel tarihi açısından önemle değerlendirilmesi gereken konulardır.

400 yıl boyunca Mardin yöresi Sasani-Roma ve Sasani-Bizans arasında süren savaşlarla sürekli el değiştirmiştir. Ancak VII. y.y. İslam fethiyle (Abbasiler) birinin (Sasani) tamamen tarih sahnesinden silinmesi, diğerinin de kalıcı olarak bir daha geri dönmemecesine bölgeden çıkarılmasıyla son bulmuştur. Abbasiler’den sonra bölgede Hamdaniler, Büveyhiler, Mervaniler ve Selçuklular’ın kısa süren hakimiyetleri görülür. Bunun ardından Mardin, Selçuklular’dan sonra Artuklular’ın egemenliğine geçer.

Artuklular dönemine kadar bölgenin ticari ve kültürel merkezi olarak Nusaybin ve Cizre ön plana çıkmıştır. Artuklular ile birlikte Mardin kenti, siyasi bir merkez ve bir başkent kimliği kazanmıştır. Artuklular, Mardin’de görüldükleri ilk yıllardan itibaren yoğun bir imar eylemine girişmişlerdir. Bu dönemde Mardin, gezginlerin uğrak yeri haline gelir. XIII. yy. Arap coğrafyacı Yakut (ölm.1229); şehirde büyük kervanların, çarşı ve medreselerin bulunduğunu ve yamaçta birbirini üstüne inşa edilmeleri nedeniyle merdiven şeklinde göründüklerini belirtir. İbn Şeddad (ölm.1285) ise 300 kadar Cami ve 6 hamamın varlığından söz etmektedir.

Artukoğulları’nın geleneksel şehir mekanı biçimlendiren, sosyal ve ekonomik yapıların mimarisinde yörenin en temel ellemelerinden temin edilen taş ve bunları örme sistemini taşıyan bir anlayış getirdikleri görülmektedir. Bu dönemde mimari doku, az bir farklılıkla süreklilik gösterir. Artukoğulları döneminde, araziye bağlı yerleşim stratejisi, Artukoğulları’nın benimsedikleri mimari değerleri ile Anadolu’dan farklı ancak zaman zaman ona örnek olabilecek özgün bir mimari ortam yaratmışlardır. Hamam ve külliye türünden yapıların ilk örnekleri ve bazı Cami ve medreselerin temel plan şemaları gelişerek önemli boyutlara ulaşmış ve bu uygulamalar Mardin’de yoğunluk kazanmıştır.

Artuklulardan sonra bölgede, Eyyubiler, İlhanlılar, Moğollar, Karakoyunlular, Akkoyunlular, Safevi ve Osmanlı dönemlerinin egemenlikleri görülmüştür.

Mardin’de Artukoğulları’ndan sonra yapısal faaliyette bulunan diğer devletler Akkoyunlu ve Osmanlılardır. Her iki dönemde de yapım geleneği sürdürülmüş, dini ve sosyal amaçlı yapıların tasarlanmasına devam edilmiş, ancak önceki dönemin yeni yorumlar getirme arayışı yerini tekrarına bırakmıştır. Bu dönemin başka bir özelliği, yerel geleneklerin inşa süreci sürdürülmesidir. Özellikle Osmanlı döneminde mimari, bölgenin kendine özgü karakteri ile devam etmiştir.

Mardin kenti 12. yy.’dan itibaren başlayan “bölge merkezi” olma niteliğini yitirmiş ama yine de önemli bir zanaat merkezi olma özelliğini de eklemiştir. Yapılarına bakıldığında, kentsel doku ve ticaret hayatının Akkoyunlular Dönemi’nde zirveye çıktığı söylenebilir.

Cumhuriyet Dönemi’yle birlikte Anadolu’nun batısındaki yerleşmelerde olduğu gibi bir değişim, Mardin’de hemen görülmez. Sınırları uzun süre susuz bir pek taşımayan Mardin’de 1950’li yıllardan sonra güney, doğu ve batı doğrultularında bir genişleme süreci de başlamıştır.

1930’lu yıllara kadar yapılan imar faaliyetlerinde Mardin’in eski eserlerine saygılı bir yaklaşım izlenmiştir. Mardin’in kiliselerinin başka amaçlarla kullanıldığı, türbelerin yıkıldığı anlaşılmaktadır. Atatürk döneminde cadde genişletilmesi sırasında Patriye Kilisesi gibi bazı yapıların yıkıldığı görülmüştür.