গারো পাহাড় পাদদেশে অবস্থিত বর্তমান শেরপুর জেলা। এই শেরপুর নামকরণ হয়েছে শের আলী গাজীর নাম অনুসারে। আগে এর নাম ছিলো “দশকাহনিয়া” বাজু। আয়তন ছিলো, পূর্বে বর্তমান নেত্রকোনার মোহনগঞ্জ থেকে পশ্চিমে বর্তমান জামালপুরের বকশীগঞ্জ, দেওয়ানগঞ্জ, উত্তরে আসাম সীমান্ত ও দক্ষিণে ব্রহ্মপুত্র নদ পর্যন্ত। রাজধানী ছিলো বর্তমান “গড়জরিপা”। মুঘল সামন্ত রাজা “লক্ষণ হাজো”কে পরাজিত ও বিতাড়িত করে “দশকাহনিয়া” বাজু দখল করেন বঙ্গের অধিপতি বারো ভূঁইয়ার এক ভূঁইয়া “ঈশা খান”। বঙ্গের ভূঁইয়াদের প্রতিহত করতে ছুটে আসেন মুঘল সেনাপতি রাজা “মানসিংহ”।
বর্তমান কিশোরগঞ্জের “জঙ্গলবাড়ি” এলাকায় মুখোমুখি যুদ্ধে রাজা মানসিংহকে পরাজিত করে ঈশা খাঁ। যুদ্ধে জয়লাভ করে মোক্ষম সুযোগ পেয়েও মানসিংকে হত্যা করেননি ঈশা খাঁ। এর প্রতিদানে মানসিংহের মধ্যস্থতায় “দশকাহনিয়া” বাজু সহ ২২টি বাজুর জমিদার বা অধিপতি করা হয় ঈশা খাঁকে। পরবর্তীতে বঙ্গের অধিপতি ঈশা খানের মৃত্যুর পর তার পূত্র মুসা খান দশকাহনিয়া বাজুহার জমিদারী লাভ করেন। ১৬১১ খ্রিস্টাব্দে মুসা খান জায়গিদারী হারান। তখন মোঘল সাম্রাজ্যের অধীনে এই “দশকাহনিয়া” বাজুর জমিদারী লাভ করে গাজীপুরের “গাজী বংশ”।
দীর্ঘ প্রায় শতাধিক বছর ধরে শাসন করে “গাজী বংশ”। এই গাজী বংশের শেষ জমিদার “শের আলী গাজী”। তিনি অত্যন্ত ন্যায়পরায়ণ, প্রজাবৎসল, ধর্মভীরু, নিঃস্বার্থ ও স্বাধীনচেতা। দীর্ঘ একুশ বছর মতান্তরে চব্বিশ বছর শাসন করেছেন। জনকল্যাণে তিনি “দশকাহনিয়া” নাম পরিবর্তন করে “শেরপুর” নামে স্বাধীন রাজ্য ঘোষণা করেন। মুঘল সাম্রাজ্য এই নতুন “শেরপুর” নামকরণ মেনে নেয়। কিন্তু স্বাধীনতা মেনে নিতে পারেনি।
মুঘল কূটকৌশল এবং স্থানীয় কতিপয়ের বিশ্বাসঘাতকতার ফলে ক্ষমতাচ্যুত হন “শের আলী গাজী”। ফলস্বরূপ স্বাধীনতা হারিয়ে পূণরায় মুঘল সাম্রাজ্যের বাজুহা হিসেবে পরিচালিত হতে থাকে। কিন্তু “দশকাহনিয়া”-র পরিবর্তিত নতুন নাম “শেরপুর” বহাল থাকে। ১৭২২ খ্রিস্টাব্দে মুর্শিদকুলি খান “বাজু”/ “বাজুহা” প্রথা বিলুপ্ত করে “চাকলা” ও “পরগনা” প্রথা চালু করেন। তখনও “শেরপুর” নামকরণ বহাল রেখে গঠন করা হয় “শেরপুর পরগনা”। এই “শেরপুর পরগনা” গঠিত হয়ে “শেরপুর” নামকরণ স্থায়ী রূপ ধারণ করেছে।
এদিকে ধর্মভীরু শের আলী গাজী তার একটি খামারবাড়িতে অবস্থান করে সুফি সাধনায় মগ্ন হয়ে পড়েন। সেই খামারবাড়ি এলাকাটিই বর্তমান “গাজীর খামার”। ইন্তেকালের পর খামারবাড়িতে সমাহিত করা হয়। তার সমাধিটিই “গাজীর মাজার”। প্রতি বছর ১লা থেকে ৫ই ফাল্গুন পর্যন্ত গাজীর মাজারে ওরশ অনুষ্ঠিত হয়।