Прокурорската институция в гр. Кърджали възниква със създаването на Прокурорски паркет при Кърджалийския мирови съд. Той е на подчинение на Апелативния съд в Пловдив и на Министерството на правосъдието.
През 1948 година, с отделяне на Главна прокуратура на НРБ в самостоятелно ведомство, паркета се преобразува в самостоятелно учреждение с наименование "Хасковска окръжна прокуратура - отделение гр. Кърджали", действащо като самостоятелна окръжна прокуратура и оглавявано от Окръжен прокурор, назаначаван от Министерството на правосъдието.
Когато през 1959 г. се образува Кърджалийски окръг, отделението се преобразува в Окръжна прокуратура, непосредствено подчинена на Главна прокуратура гр. София. Ръководи районните прокуратури в градовете Кърджали, Крумовград, Златоград, Момчилград, Ивайловград и Ардино.
Като самостоятелни единици днешните районните прокуратури започват дейността си през 1948 година, когато се отделят от съдилищата. В същата година се създават Околийски прокуратури в Кърджали, Крумовград и Ивайловград, а през 1953 - в Момчилград и Ардино. Прокуратурата в гр. Ардино е била закрита през 1960 г. и наново разкрита през 1967-ма, а тази в Момчилград - закрита през 1976 и разкрита през 1981 г. От 1959 г. те са преименувани в Районни прокуратури.
В настоящия момент Окръжна прокуратура Кърджали осъществява пряко методическо ръководство и надзор за законност на дейността на районните прокуратури в Кърджали, Момчилград, Крумовград и Ардино.
Окръжни прокурори в гр. Кърджали през последните години са били:
- Еньо Петков Бакалов - 03.01.1983 - 06.02.1990 г.
- Ангел Балинов Текелиев - 14.05.1991 - 10.06.1991 г.
- Елисавета Минкова Пенчева - 10.06.1991 - 08.05.1992 г.
- Никола Иванов Колев - 18.01.1993 - 06.01.1997 г.
- Лазар Михайлов Базлянков - 05.03.1997 - 09.10.1999 г.
- Марин Николов Пелтеков - 14.02.2000 - 25.10.2004 г.
- Светлозар Михайлов Лазаров - 25.10.2004 - 01.10.2014 г.