Mardin'in ne zaman ve kimler tarafından kurulduğu kesin olarak bilinmiyorsa da kuruluşu Eski Yakın Doğu tarihine göre Subariler zamanına kadar dayanmaktadır. Alman Arkeologu Baron Marvan Oppenheim'in 1911-1929 yılları arasında yaptığı kazılardan elde edilen sonuçlara göre: Subariler'in Mezopotamya'da (MÖ.4500-3500) yaşadıklarını bu tespite sebep olarak da Sümer ve Babil katları arasında buldukları kiremitleri göstermiştir.