Synagoga została zbudowana w 1275 roku i jest najstarszą czynną świątynią tego typu w Europie. Udało jej się uniknąć zniszczeń podczas wojen, nie dotyczyły jej także pożary. Ponadto nie była przebudowywana jak wiele innych gotyckich budowli, dlatego stanowi niezwykle cenny zabytek średniowiecznej architektury. Z Synagogą związana jest legenda o zbudowaniu jej przez uciekinierów z Jerozolimy. Anioły miały przenieść stamtąd kamienie, z których zbudowana była świątynia Salomona i to właśnie jej fragmenty stanowić mają podwaliny praskiego budynku. Wejście do Synagogi znajduje się poniżej poziomu ulicy – prowadzi do niego dziewięć stopni prowadzących w dół, co jeszcze dobitniej obrazuje jej wiek. Na przestrzeni stuleci poziom gruntów bowiem podniósł się znacznie. Mroczną ciekawostką jest, że w trakcie II wojny światowej świątynia ocalona została przez Hitlera, który planował założyć w niej „muzeum wymarłej rasy”...