قلعه باقر آباد به دستور عبدالرحیم خان فرزند محمد تقی خان بافقی ساخته شده این قلعه در سه مرحله بنا گردیده است ابتدا برج شمالی كه محل زندگی عشكر می باشد. و قسمت برج جنوبی ده سال بعد ساخته شد و در سال ۱۲۹۸ هجری شمسی به علت هرج ومرج در كشور مروم روستا دور قلعه را حصار كشیدند این قلعه با مصالح خشتو گل ساخته شده است.
برج شمالی قلعه با ارتفاع ۸ متر دارای دو طبقه ۳ سنگ انداز و ۱۰ جایگاه تیرانداز می باشد برج دو م قلعه كه در قسمت جنوبی قلعه قرار دارد ب صورن هشت ضلعی با ارتفاع ۱۱ متر در دو طبقه دارای ۱۶ روزن تیرانداز و ۴ سنك انداز می باشد قلعه دارای ۴۵ اتاق با اندازه های متفاوتی می باشد سه راهور در دورن قلعه وجود دارد كه راهروی اول برج جنوبی را به برج شمالی متصل می كند و دو راهرو ی دیگر در دوطرف راهروی اول قراردارد و دسترسی به اتاق های قلعه را برای ما مكان پذیر می سازد.