باب المغاربة هو اقرب الأبواب إلى حائط البراق، كان في البداية باب صغير ثم تم توسيعه. عمليا اسم الباب الحالي هو إحياء لاسم بوابة سابقة من أيام التوراة: "وسيخرج نحو باب القمامة" "نحميا" الفصل الثاني آية 13 . يصل الباب إلى مدينة داود، نبع الجيحون، بركة سلوان والى قرية سلوان. في العهد البيزنطي مر بالجوار شارع الكاردو الفرعي الذي وصل بين باب العمود في الشمال لبركة سلوان في الجنوب. في الغالب كان الباب مقفلاً وفتح فقط عند الحاجة, مثلا في أيام المحل لتمكين سكان سلوان من إدخال قرب الماء إلى سكان القدس. أيام الحكم الأردني (1948- 1967)، تم توسيع الباب لتمكين العربات من الدخول. من على الباب من الخارج قوس يشبه الوسائد الحجرية وفوقه زخرفه مستديرة بشكل ورده.‏