Rayon 8 avqust 1930-cu ildə təşkil edilmişdir. 10 sentyabr 1939-cu ilədək Cerabert, 1991-ci ilə qədər Mardakert, həmin tarixdən ləğv olunana kimi Ağdərə adlanıb. 1992-ci ilin oktyabrında Azərbaycan hökumətinin qərarı ilə Ağdərə rayonunu ləğv edilərək, ərazisi Dağlıq Qarabağa aid olmayan üç rayon — Tərtər, Ağdam, Kəlbəcər rayonları arasında bölünmüşdür. 

Qarabağa çox yaxın olan Tərtər erməni təcavüzündən kifayət qədər əziyyət çəkib. Rayonun bir neçə kəndi cəbhədə yerləşdiyindən Tərtər ətrafında tez-tez döyüşlər gedir. Müharibə dövründə Tərtər rayonundan 307 nəfər şəhid olub. Son 5 il ərzində 15 nəfər tərtərli ermənilərin basdırdığı minalara düşüb.

Ağdərə rayonu Dağlıq Qarabağdakı bir çox ərazilər kimi Qarabağ müharibəsinin başlanğıcında erməni silahli qüvvələrinin nəzarəti altına keçir. 1992-ci ildə Azərbaycan ordusunun hücumu nəticəsində Ağdərə rayonu ərazisinin bir çox hissəsi erməni işğalçılarından azad edilir. 1 il boyunca Ağdərə şəhəri ətrafındakı kəndlərdə və yüksəkliklərdə aramsız döyüşlər gedir. Lakin 1993-cü ildə Azərbaycanda 4 iyun Gəncə qiyamı baş verir. Qarabağ cəbhəsində döyüşən ordu qiyama qoşulur. Bundan məharətlə istifadə edən erməni ordusu 17 iyun 1993-cü ildə Ağdərə şəhərini və rayonun bir çox kəndlərini yenidən işğal etdi. Hal-hazırda keçmiş Ağdərə rayonun bir neçə kəndi Azərbaycanın nəzarətində olsa da, Ağdərə şəhəri də daxil olmaqla bir çox əraziləri ermənilərin nəzarəti altındadır.