Το τζαμί κτίστηκε το 1759 από τον Τούρκο βοεβόδα Τζισταράκη. Κατασκευάστηκε με υλικό παρμένο από παλιά κτήρια, για το μαρμαροκονίασμα των τοίχων, ανατινάχτηκε η 17η κολώνα του Ναού του Ολυμπίου Διός. Οι παλαιοί Αθηναίοι πίστευαν ότι κάτω από κάθε κίονα του ναού βρισκόταν παγιδευμένη μία κατάρα, κάτι που επιβεβαιώθηκε με το ξέσπασμα λοιμού στην Αθήνα. Σύμφωνα με τον ίδιο μύθο, ο ναός του Διός θρήνησε τόσο δυνατά την καταστροφή της στήλης, που εκείνο το βράδυ κανείς δεν κοιμήθηκε στην Αθήνα. Ηρέμησε μόνον με την δολοφονία του βοεβόδα.