Góra nosi imię św. Gerarda Węgierskiego (św. Gellerta), który ochrzcił Węgrów i został zabity w barbarzyński sposób: został zrzucony ze wspomnianej góry w beczce nabijanej gwoździami i utopiony w Dunaju. Łaźnie „Gellert” zostały zbudowane w latach 1912-1918. w stylu secesji (Art Nouveau). Łaźnie obejmują baseny z gorącą wodą mineralną i sauny. W odkrytym basenie co 10 minut powstają sztuczne fale. Dostępne są usługi medyczne i masaże lecznicze.
Warto również zwrócić uwagę na pomnik Gellerta, kaplicę w jaskini, Cytadelę oraz Pomnik Wolności. Początkowo pomnik był poświęcony wyzwoleniu Budapesztu przez Armię Radziecką. Na początku lat 90. XX wieku z kompozycji usunięto postać wyzwoliciela.