রাজত্বের সময় যে সকল সম্প্রদায় প্রতিষ্ঠিত হইয়াছে, তাহাদিগকে পন্থী বলে—ইঁহাদের মধ্যে অদ্বৈত ও দ্বৈত উভয় প্রকার মতাবলম্বীই দেখিতে পাওয়া যায়। পওহারী বাবার পিতৃব্য রামানুজ বা শ্রী সম্প্রদায়ভুক্ত একজন নৈষ্ঠিক ব্রহ্মচারী ছিলেন—অর্থাৎ তিনি আজীবন অবিবাহিত জীবন যাপন করিবেন, এই ব্রত লইয়াছিলেন। গাজিপুরের দুই মাইল উত্তরে গঙ্গাতীরে তাঁহার একখণ্ড জমি ছিল, তিনি সেই খানেই বাস করিয়াছিলেন। তাঁহার অনেকগুলি ভ্রাতুষ্পুত্র ছিল বলিয়া তিনি পওহারী বাবাকে নিজের বাটীতে রাখিয়াছিলেন, আর তাঁহাকেই তাঁহার বিষয় ও পদের উত্তরাধিকারী মনোনীত করিয়াছিলেন।
পওহারী বাবার এই সময়কার জীবনের ঘটনা বিশেষ কিছু জানা যায় না। যে সকল বিশেষত্বের জন্য ভবিষ্যৎ জীবনে তিনি এরূপ সুপরিচিত হইয়াছিলেন, সে সকলের কোন লক্ষণ তখন তাঁহাতে প্রকাশ হইয়াছিল বলিয়াও বোধ হয় না। এই টুকুই লোকের স্মরণ আছে যে, তিনি ব্যাকরণ, ন্যায় এবং নিজ সম্প্রদায়ের ধর্ম্মগ্রন্থসমূহ অতিশয় মনোযোগের সহিত অধ্যয়ন করিতেন—এদিকে খুব চট্পটে ও আমুদে ছিলেন। সময়ে সময়ে এই আমোদের মাত্রা এত বাড়িয়া উঠিত যে, তাঁহার সহপাঠী ছাত্রগণকে তাঁহার এই রঙ্গপ্রিয়তার ফলে বিলক্ষণ ভুগিতে হইত।