El mapa de Madaba muestra el monte Sión dentro de las murallas, pero cuando Suleimán el Magnífico ordenó reconstruirlas a mediados del siglo XVI, los ingenieros lo dejaron fuera: un error por el cual, se dice, pagaron con sus vidas. Esta separación fue reforzada desde 1948 hasta 1967 por la línea de armisticio israelí y jordana. Sin embargo el monte Sión, antes parte integrante de la ciudad y, por extensión, de todo el país, dio su nombre al movimiento sionista; hasta dos días antes de la independencia los fundadores del estado judío dudaron entre el nombre de Sión y el de Israel para el país. El monte está tradicionalmente asociado al rey David, de quien se asegura que fue enterrado allí, y también con Jesús y sus discípulos, como sitio donde tuvo lugar la Última Cena.El punto más elevado del monte Sión es el techo negro y cónico de la abadía de la Dormición, que se alza en la cima de la colina. La iglesia, construida en 1900, es de planta circular y transmite sensación de luminosidad y espacio. Sus seis capillas de planta circular están ornamentadas en oro; también hay un impresionante pavimento de mosaico y en el altar mayor un precioso mosaico dorado que representa a la Virgen y el Niño.
Bajando la colina y prácticamente a la sombra de la abadía está el Cenáculo. La sala data de la época cruzada, con sus característicos arcos góticos. Fue parte de un monasterio franciscano hasta 1552 y fue convertida en mezquita por los otomanos, que le añadieron un mihrab y vidrieras.
S
egún el Antiguo Testamento, David fue enterrado en la colina oriental de la ciudad. La sala llamada Tumba de David es una cámara vacía que contiene un sencillo cenotafio cubierto de terciopelo verde y fue declarada su lugar de sepultura en el siglo X d. C. Este lugar tuvo especial importancia para los israelíes entre 1948 y 1967 cuando, con la ciudad antigua en manos jordanas y el muro occidental fuera de los límites, la tumba se convirtió en lugar de peregrinación judía. En una sala junto a la tumba de David se ha instalado el Museo del Rey David, con un batiburrillo de hallazgos arqueológicos procedentes del monte Sión y piezas litúrgicas judías.Atravesando los claustros medievales del edificio que alberga la tumba de David para salir por el otro lado se llega a la Cámara del Holocausto. Sus muros están cubiertos de placas que recuerdan las más de 2000 comunidades judías destruidas por los nazis. Allí se ve una exposición del antisemitismo contemporáneo.
Al sur de la tumba de David se encuentra el cementerio cristiano donde está la tumba de Oskar Schindler, el "no judío justo" más famoso del Holocausto.
Bajando unos 200 metros por la colina, en la ladera este del monte, se encuentra la iglesia de San Pedro in Gallicantu, construida en 1931 en el
lugar donde se encontraban los restos de algunas antiguas construcciones bizantinas y cruzadas. Se cree que fue aquí donde el sumo sacerdote Caifás encarceló a Jesús, y donde Pedro le negó tres veces. En la iglesia se conservan mosaicos bizantinos descubiertos en 1992. En la cripta se conservan algunos restos más de la iglesia original del siglo V. Allí tambiín se encuentra una mazmorra excavada en 1889 donde se dice tuvieron encerrado a Jesús toda la noche mientras esperaban el juicio de Caifás y del Sanedrín.