آیت‌اللَّه حاج شیخ عبدالرحیم ربانی شیرازی در سال 1301 شمسی در شیراز دیده به جهان گشود و از سال 1318 به تحصیلات علوم دینی مشغول گردید.
وی فعالیت‌های دینی خود را از سال 1320 با مبارزه علیه فرقه‌های صوفیه، بابیه و بهاییه شروع کرد و در اثر تبلیغات ایشان، عده بسیاری از بهاییان به دین اسلام مشرف شدند.
وی از سال 1327 در محضر آیت‌اللَّه بروجردی، در قم به شاگردی مشغول بود و پس از رحلت آن مرجع بزرگ، نخستین فردی بود که مرجعیت امام(ره) را مطرح نمود.
وی همزمان با آغاز نهضت اسلامی به رهبری حضرت امام(ره)، مبارزات سیاسی خویش را علیه رژیم پهلوی آغاز کرد.
آیت‌اللَّه ربانی از سال 1349ش با مطرح شدن حکومت اسلامی از ناحیه امام خمینی(ره)، درصدد برآمد تا با سازماندهی روحانیون انقلابی و فرستادن آن‌ها به نقاط مختلف کشور، به پرورش کادرهای لازم برای یک قیام همگانی و به دست گرفتن پست‌های کلیدی در حکومت آینده بپردازد.
طولی نکشید که ثمره این فعالیت‌های فرهنگی- سیاسی، به صورت هیئت‌ها، جمعیت‌ها و انجمن‌های مختلف اسلامی در سراسرکشور ظاهر شد.
ساواک به همین دلیل وی را دستگیر و به حبس فرستاد.
ایشان از سال 1342 تا 1357 بیش از 15 بار به زندان افتاد و شکنجه‌های فراوانی را متحمل شد و حدود 10 سال از عمرش را در زندان‌های طاغوت سپری‌کرد.
وی، در زندان از علمای بسیار‌جدی و کوشا برای تبیین انحرافات‌فکری گروه‌های‌التقاطی و منافق بود.
پس از پیروزی انقلاب اسلامی، نماینده امام(ره) در استان فارس و نماینده مردم استان فارس در مجلس خبرگان شد.
سپس از سوی امام خمینی(ره) به عضویت فقهای شورای نگهبان درآمد.
این مبارز نستوه در نهم فروردین سال 1360 به دست گروهک فرقان ترور و مجروح شد و پس از مدتی بستری در بیمارستان بهبود یافت.
سرانجام 11 ماه بعد، این عالم ربانی در 17 اسفند 1360 در حالی که برای شرکت در جلسه شورای نگهبان عازم تهران بود، بین راه اصفهان و قم در سانحه‌ای مشکوک به لقاءاللَّه پیوست و در حرم حضرت معصومه(س) به خاک سپرده شد.