میرزا رجبعلی فرزند استاد عبدالغنی بود و خواندن و نوشتن و قرآن را در محضر ایشان فرا گرفت. او در خاطرات خود ذکر می کند که، بابا عبدالغنی، معلم بود و برای سواد آموزی و تعلیم قرآن با خانواده به شهرستان قزوین مهاجرت کرده بودند.
اما در شهرستانهای آن زمان، محلی به نام مدرسه یا دانشگاه وجود نداشته است، لذا تعلیم و تدریس در مکتبخانه ها انجام می شد.