ينسب المسجد الى أبى العباس أحمد بن طولون والى الدولة العباسية على مصر والذى استقل بمصر عن الخلافة العباسية وهو مؤسس الدولة الطولونية فى مصر والشام من الفترة 254 إلى 270هجرياً، ولد عام 835 ميلادياً فى بخارى بتركيا وحفظ القرآن من صغره وتفقه فى الدين وكان معروفاً بالتدين وحسن الخلق ومجالسة العلماء كما انه اتصف بالقوة لأنه تربى تربية عسكرية ودخل أحمد بن طولون مصر فى رمضان عام 254هجرياً، انشا مدينة القطائع وجعلها عاصمة لدولته وبنى مسجداً كبيراً فيها عرف باسمه، واسم طولون مشتقة من كلمة تركية معناها البدر الكامل، ويعد مسجد أحمد بن طولون من أكبر المساجد من حيث المساحة فى مصر حيث تبلغ مساحته ستة أفدنة ونصف الفدان، كما أنه ثالث مسجدجامع بنى فيها بعد مسجدعمرو بن العاص وجامع العسكر، وتم بناؤه فوق ربوة صخرية تعرف بجبل يشكر،ويتميز بتأثره بالعمارة العراقية فى التصميم والزخرفة، وبنيت المئذنة على غرار مئذنة جامع سامراء حيث بنيت من الحجر على شكل اسطوانى وتتكون من ثلاثة طوابق ولها سلم حلزونى يلتف حولها من الخارج وهو مخالف لباقى المساجد التى يكون سلم المئذنة من الداخل وشيدت من الناحية الغربية للجامع وتمت اعادة بنائها بالكامل عام 696هجرياً فى عهد السلطان المملوكى حسام الدين لاجين المنصورى ويبلغ طولها 40.44 متر، وترجع نشأة المسجد الى أحمد بن طولون عندما أسس مدينة القطائع عام 265هجرياً وأنشأ وسطها مسجداً تمت عمارته عام 265هجرياً وتبلغ مساحته ستة أفدنة ونصف الفدان لذا يعد من أكبر مساجد العالم الإسلامى وأصبحت مدينة القطائع مقراً للحكم وتشبه فى تخطيطها مدينة سمارا التى نشأ فيها أحمد بن طولون فقد كانت مقسمة إلى قطائع تضم كل قطيعة «وتعنى حارة حالياً «مجموعة من السكان يربطهم الجنس أو العمل ،أما عن سبب بناء احمد بن طولون للمسجد أنه كان يصلى الجمعة فى المسجد القديم الملاصق للشرطة ولما ضاق عليه بنى الجامع الجديد وكان يعرف المكان الذى بنى فيه بجبل يشكر ويقول المقريزى إن بناء الجامع كان يحتاج لثلاثمائة عمود فسمع بذلك مهندس قبطى فرسم تخطيطاً للمسجد بلا اعمدة الا عمودى القبلة فوافق ابن طولون وخصص له مائة ألف دينار نفقة للجامع، وتم بناء الجامع من حجارة جبل يشكرفكانوا ينشرونها ويعملون منها الجير وعلقت فيه القناديل بالسلاسل الطوال وفرش بالحصير العبدنى وامتلاء بالمصاحف وعين له قراء وفقهاء.
ويوضح الدكتور أيمن فؤاد –استاذ التاريخ الإسلامي– أن جامع بن طولون من الجوامع المعلقة إذ يصعد لأبواب الجامع الداخلية بدرجات دائرية، ويتبع المسجد التخطيط التقليدى للمساجد الاسلامية الذى يعتمد على وجود صحن أوسط مكشوف ويحيط به أربعة أروقة أكبرها رواق القبلة من خمسة أروقة مكتوب فيها بالخط الكوفى البارز سورتا «البقرة وآل عمران» وتحتوى جدران المسجد من أعلى مائة وتسعة وعشرين شباكاً من الجص المفرع بأشكال هندسية ونباتية ، والجامع على شكل مربع يبلغ طول ضلعه 162.5فى 161.5متر، ويتوسطه صحن مكشوف مربع أيضا يبلغ طول ضلعه 92.5 فى 91.80متر ويحيط بالجامع من ثلاث جهات أروقة ما عدا جهة القبلة غير مسقوفة تعرف بالزيادة، كما يحتوى الجامع على 42 باباً منها 21باباً بالمسجد الأصلى يقابلها مثلها فى الاروقة.