Mûsâ el-Hâdî’nin öldüğü cuma gecesi, kardeşi Hârûn b. Muhammed b. Abdullah b. el-Abbas’a halife olarak biat edildi. Hilâfeti üstlendiği gün yirmi iki yaşındaydı. Onun halife olarak kendisine biat edildiği gün yirmi bir yaşında olduğu da söylenmiştir. Annesi Yemen’de Cerâşlı bir cariye olan Hayzürân idi ve kendisi Mansûr’un hilâfeti sırasında 145 yılı Zilhicce ayının yirmi altısında (17 Mart 763) Rey’de doğmuştu. Bermekîler hakkında nakledildiğine göre, onlar Hârûn’un 149 yılı Muharrem ayının birinci günü (16 Şubat 766) doğduğunu ve Fazl b. Yahyâ’nın ondan yedi gün önce, yani 148 yılı Zilhicce ayının yirmi ikisinde (8 Şubat 766) doğduğunu ileri sürerler. Fazl’ın annesi Zeyneb bint Münîr, Hârûn’a sütanne tayin edilmişti. Böylece o, Fazl’ı emzirirken Hârûn’a da süt verdi; Hayzürân da Hârûn’u emzirirken Fazl’a süt verdi.
Süleyman b. Ebî Şeyh nakleder ki: Mûsâ el-Hâdî’nin öldüğü gece, Harsame b. A‘yân ed-Dabbî, gece karanlığında Hârûn er-Reşîd’i getirdi ve onu halifelik tahtına oturttu. Bunun üzerine Hârûn, o sırada hapiste bulunan Yahyâ b. Hâlid b. Bermek’i çağırttı. Mûsâ o gece hem Yahyâ’yı hem de Hârûn’u öldürmeyi kararlaştırmıştı. Yahyâ geldi ve vezirlik görevini üstlendi. Ardından Yûsuf b. el-Kâsım b. Subeyh el-Kâtib’e haber gönderdi. Onu huzura getirtti ve Hârûn’un hilâfete geçişini ilan eden mektupları yazmasını emretti. Ertesi sabah askerî kumandanlar toplandığında, Yûsuf b. el-Kâsım ayağa kalktı. Allah’a hamd etti, O’nu övdü ve Peygamber’e salât getirdi. Sonra fasih bir şekilde konuşmaya başladı; Mûsâ’nın ölümünü, Hârûn’un onun yerine geçerek yönetimi devraldığını ve askerler için tayin ettiği maaşları anlattı.
Ahmed b. el-Kâsım, amcası Ali b. Yûsuf b. el-Kâsım’dan naklederek şöyle dedi: Mevlamız Yezîd et-Taberî bana, o sırada babam Yûsuf b. el-Kâsım’ın divitini taşıyarak orada bulunduğunu ve söylediği sözlerin tamamını hatırladığını bildirdi. Yûsuf b. el-Kâsım Allah’a hamd edip Peygamber’e salât getirdikten sonra şöyle dedi:
“Ey Peygamber ailesinin halkı, hilâfet evi ve risaletin aslı olan sizler! Allah, lütfu ve keremiyle size nimetler vermiştir. Ey Abbâsî davetine destek veren ve ona yardım eden itaatkârlar! Size sayısız ve ebediyen yok olmayacak nimetler bahşetmiştir. Aranızdaki bağı güçlendirmiş, derecenizi yükseltmiş, kuvvetinizi artırmış, düşmanınızı zelil etmiş ve hak sözünü yüceltmiştir. Siz buna layık oldunuz. Allah sizi aziz kıldı; siz de O’nun dininin yardımcıları ve Peygamberinin ehlinin savunucuları oldunuz. Sizinle onları zalimlerin, kan dökenlerin ve ganimetleri haksız yere yiyenlerin elinden kurtardı. Bu nimeti unutmayın ve tavrınızı değiştirmeyin; yoksa Allah da size olan tavrını değiştirir.
Allah, halifesi Mûsâ el-Hâdî’yi kendine aldı ve onu yanına çekti. Onun yerine sizin için doğru yolda olan, hoşnut olunacak birini halife yaptı. O, iyilik yapanlarınıza yakınlık gösterecek, kötülük yapanlarınıza merhametle muamele edecektir. Halife size kalbinden şefkat ve merhamet vaat eder; hak ettiğinizde maaşlarınızı dağıtır. Devlet hazinesinden size büyük ihsanlarda bulunacaktır; öyle ki bir süre maaşa ihtiyaç duymayacaksınız. Bu, ilerideki ödemelerinizden düşülmeyecek; aksine ailenizin korunması için verilecektir. Ta ki hazineler dolup eski zenginliğine ulaşıncaya kadar. Allah’a hamd edin ve şükredin; bu, nimetlerinizi artırır. Halife için uzun ömür dileyin ve ona biat edin. Allah sizi korusun, sizinle doğruluğu gerçekleştirsin ve sizi kendi salih kulları gibi yardımcı kılsın.”
Yahyâ b. el-Hasan b. Abdülhâlik nakleder: Muhammed b. Hişâm el-Mahzûmî bana şöyle dedi: Mûsâ öldüğünde Yahyâ b. Hâlid, Hârûn’un yanına geldi; Hârûn örtüsüne sarılmış halde uyuyordu. Yahyâ, “Kalk ey Müminlerin Emîri!” dedi. Hârûn, “Beni halife diye çağırmandaki bu aceleciliğin beni korkutuyor; benim onun karşısındaki durumumu biliyorsun. Bu ona ulaşırsa halim ne olur?” dedi. Yahyâ, “Bu Musa’nın veziri İbrahim el-Harrânî’nin mührüdür” dedi. Hârûn oturdu ve “Ne yapmam gerektiğini söyle” dedi. O sırada bir haberci gelip “Bir oğlun oldu” dedi. Hârûn, “Adını Abdullah koydum” dedi. Sonra yine Yahyâ’ya danıştı. Yahyâ, “Derhal Musa’nın Ermeni halısına otur” dedi. Hârûn, “Bunu yapacağım; İsbâd’da o halı üzerinde namaz kılacağım ve Bağdat’ta öğle namazını ancak Ebû İgmeh’in başı önümdeyken kılacağım” dedi. Ardından elbisesini giyip çıktı, o halı üzerinde namaz kıldı, Ebû İgmeh’i getirtti, boynunu vurdurdu ve başını mızrağın ucuna taktırarak Bağdat’a girdi.
Bütün bunların sebebi şuydu: O ve Ca‘fer b. Mûsâ el-Hâdî bir gün birlikte at binmeye çıkmışlardı. Îsâbâd köprülerinden birine geldiklerinde Ebû ‘İgmeh, Hârûn’a dönerek, “Veliaht geçinceye kadar yerinde dur!” dedi. Hârûn, “Emredersin!” diye cevap verdi ve Ca‘fer geçinceye kadar bekledi. İşte Ebû ‘İgmeh’in öldürülmesinin sebebi buydu.
Rivayet edildiğine göre: Hârûn er-Reşîd köprünün başına geldiğinde dalgıçlar çağırttı ve şöyle dedi: “Babam el-Mehdî bana yüz bin dinara mal olan ve ‘el-Cebel’ adı verilen bir mühür yüzüğü vermişti. Sonra bu yüzük parmağımdayken kardeşimin huzuruna girdim. Oradan dönerken köprü başında Süleym el-Esved bana yetişti ve ‘Müminlerin Emîri yüzüğü bana vermeni emrediyor’ dedi. Bunun üzerine ben de yüzüğü tam bu noktada suya attım.” Bunun üzerine dalgıçlar dalıp yüzüğü çıkardılar. Hârûn buna son derece sevindi.
Muhammed b. İshak el-Hâşimî şöyle rivayet eder: Arkadaşlarından bir grup, aralarında Sabbâh b. Hâkân et-Temîmî de olmak üzere, bana şu bilgiyi nakletti: Mûsâ el-Hâdî, Hârûn’u veliahtlıktan azletmiş ve kendi oğlu Ca‘fer için biat almıştı. Bu, Abdullah b. Mâlik’in emniyet amiri olduğu zamandaydı. Ancak el-Hâdî ölünce, Huzeyme b. Hâzim et-Temîmî aynı gece beş bin silahlı adamıyla saraya baskın yaptı, Ca‘fer’i yatağından çekip çıkardı ve ona, “Eğer veliahtlıktan vazgeçmezsen başını keserim!” dedi. Ertesi sabah halk Ca‘fer’in kapısına geldi. Huzeyme onu getirip saray kapısında yüksek bir yere çıkardı, kapılar kilitliydi. Ca‘fer öne çıkıp şöyle ilan etti:
“Ey Müslümanlar! Bana veliaht olarak biat edenleri bağlılıklarından serbest bırakıyorum. Hilâfet amcam Hârûn’a aittir; benim bunda hiçbir hakkım yoktur.”
Abdullah b. Mâlik el-Huzâî’nin keçe ayakkabılarla Mekke’ye kadar yürüyerek gitmesinin sebebi de buydu. Çünkü Ca‘fer’in veliahtlığı üzerine ettiği yeminler hakkında fakihlere danışmış, onlar da, “Bu yeminlerin kefareti ancak Allah’ın evi olan Kâbe’ye yürüyerek gitmendir; başka bir yolu yoktur” demişlerdi. Bunun üzerine o da hacca yürüyerek gitti. Huzeyme ise bu davranışı sayesinde Hârûn er-Reşîd’in gözünde büyük itibar kazandı.