Mazıdağı ilçesi, 9 Haziran 1937'de kurulmuştur. Şamrah, bu tarihe değin Derik ilçesine bağlı bir bucak merkezi idi.

İlçenin tarihi Sümerlere kadar gerilere gitmektedir. 150 metrelik bir tepenin üstünde bulunan Dermetinan Kalesi, Sultan Şeyhmus, Pir Hattap türbeleri ilçenin önemli ziyaret yerleridir. Taş Devrinden günümüze kadar gelebilen Zambırhan ve Aşrihan mağaraları bulunmaktadır. Kervanların bu mağaraları daha sonraları konaklama amacıyla kullandıkları anlaşılmıştır. İlçenin batısında Şamrah Kalesi namıyla anılan kalenin yanısıra Gümüşyuva Köyünde Bizanslılar tarafından bulunup işletilen gümüş madeni ve bu madenin muhafazası için yapılan kale ve müstahkem yerler, aynı yerde bulunan kilise kalıntıları, tarihi bir nitelik taşımaktadır.