Eksistensi Peradilan Agama sudah ada sebelum Indonesia merdeka, namun kewenangannya hanya sebatas mengadili Perkara dalam ruang lingkup Hukum keluarga diantara orang-orang pribumi yang beragama Islam. Eksistensi Peradilan Agama yang tercantum dalam Undang-Undang No. 48 tahun 2009 tentang Kekuasaan Kehakiman menegaskan bahwa kedudukan dan tugas Peradilan Agama sebagai Kekuasaan Kehakiman sejajar dengan Pengadilan lain yang ada,dikarenakan Peradilan Agama sebagai salah satu Badan Peradilan Negara disamping tiga Badan Peradilan lainnya (Peradilan Umum, Militer dan Tata Usaha Negara ) di Negara Republik Indonesia ini.

Pengadilan Agama Jambi yang berada di wilayah Yuridiksi Pengadilan Tinggi Agama Jambi yang dibentuk berdasarkan Peraturan Pemerintah Nomor 45 Tahun 1957 tentang Pembentukan PengadilanAgama/Mahkamah Syar’iyah diluar Jawa dan Madura yang kemudian diiringi dengan Penetapan Menteri Agama RI Nomor 58 tahun 1957 tanggal 13 Nopember 1957 tentang Pembentukan Pengadilan Agama /Mahkamah Syar’iyah di Sumatera. Didirikan pada tanggal 31 Agustus 1958 berdasarkan Keputusan Menteri Agama Nomor : B/I/32/1622. Gedung yang ditempati pada waktu itu adalah bekas kantor Kodim dibelakang Kantor lama Walikota Jambi di depan rumah sakit Polisi Jalan Raden Mattaher Kota Jambi (menurut suatu sumber berkantor di Kantor Urusan Agama Batanghari yang terletak di Kebun Bungo). Kemudian pernah menempati gedung disamping Kantor Departemen Agama yang sekarang berada di Jl. Prof Dr Hamka simpang Mutiara Kota Jambi dan pada tahun 1977, Pengadilan Agama Jambi menempati gedung yang dibangun di Jl. Ade Irma Suryani dibelakang Kantor Wilayah Departemen Agama Propinsi Jambi di Komplek Telanaipura dengan biaya PELITA tahun anggaran 1977/1978, kemudian tahun 1998 Pengadilan Agama Jambi pindah dan menempati gedung sendiri di Jl. Jakarta Kotabaru Kota Jambi. Selanjutnya Pengadilan Agama Jambi mendapat dana melalui DIPA Pengadilan Agama Jambi untuk pembangunan Kantor dengan luas tanah 3500 M2 lantai.