Onun, Zübeyde ile evlendiği rivayet edilir. Bu kadın, Ca‘fer b. el-Mansûr’un kızı Ümmü Ca‘fer’dir. Hârûn onunla (yani nikâhını fiilen tamamlayarak) 165 yılında (781–782), el-Mehdî’nin hilafeti sırasında, Bağdat’ta ve Muhammed b. Süleyman’ın evinde evlenmiştir. Daha sonra (yani Hârûn’un ölümünden sonra) el-Abbâse ile birlikte yaşamış, ardından el-Mu‘tasım Billah’ın yanında kalmıştır. Hârûn’dan Muhammed el-Emîn’i doğurmuştur. Bağdat’ta, Cemâziyelevvel 216 (Haziran–Temmuz 831) tarihinde vefat etmiştir.
Ayrıca Sâlih el-Miskîn’in kızı Ümmü Muhammed ile evlendi ve onunla Zilhicce 187’de (Kasım–Aralık 803) Rakka’da zifafa girdi. Annesi, İsa b. Ali’nin kızı olan Ümmü Abdallah’tı. Bu kadın, Karkh’ta bulunan ve hurma şırası imalatçılarının bulunduğu Ümmü `Abdallah evinin sahibesi idi. Daha önce İbrahim b. el-Mehdî ile evliydi; ancak o onu boşadıktan sonra Hârûn onunla evlendi.
Yine Süleyman b. Ebî Ca‘fer’in kızı el-Abbâse ile evlendi ve onunla da Zilhicce 187’de (Kasım–Aralık 803) zifafa girdi. Hem o hem de Sâlih’in kızı Ümmü Muhammed aynı yıl kendisine getirildi.
Ayrıca el-Ğıtrîf b. Alâ’nın kızı Azîze ile evlendi. Bu kadın daha önce Süleyman b. Ebî Ca‘fer ile evliydi; o boşadıktan sonra Hârûn onunla ikinci defa evlendi. Bu kadın, el-Hayzuran’ın kardeşinin kızıydı.
Yine el-Cüreşiyye el-Osmaniyye ile evlendi. Bu kadın, Abdallah b. Muhammed b. Abdallah b. Amr b. Osman b. Affân’ın kızıydı. Yemen’de Cüreş’te doğduğu için “el-Cüreşiyye” diye anılırdı. Babasının anneannesi, Hüseyin b. Ali’nin kızı Fâtıma idi. Babasının amcası ise Hasan b. Hasan b. `Ali b. Ebî Tâlib idi.
Hârûn öldüğünde bu yüksek mehirli asil eşlerinden dördünü geride bıraktı: Ümmü Ca‘fer, Sâlih’in kızı Ümmü Muhammed, Süleyman’ın kızı el-Abbâse ve el-Osmaniyye.