در سال 1940 در شهر فیض آ باد مرکز ولایت بدخشان بدنیا آ مد. در سال 1963 ار فا کولتة شرعیات فارغ گردیده و در سال  1968  جهت تحصیلات عالی به مصر رفته در دانشگاه الاظهر مصروف تحصیلات عالی شد. پس از ختم تحصیلات به کشور بازگشت و در فا کولتة شرعیات کابل مصروف تدریس گردید. در سال 1974 پس از حملة حکومت بر ضد اخوانی ها، به پاکستان رفت. با شروع کودتای ثور ، ربانی  به فعالیت هایش ادامه داده ، یکی از بزرگترین حزبی بود که بر ضد شوروی ها می جنگید. در اپریل 1992 نیرو های ربانی تحت قو ماندة مسعود داخل کابل شد و در ماه جون بحیث

رئیس دولت اسلامی تعیین گردید. وی به این وظیفه تا تشکیل حکومت موقت در 22 دسمبر 2001 ادامه داد.