Kudüs şehri ilk olarak Ofil Tepesinin Silvan Köyüne bakan kısmında kuruldu, tepede bir su pınarı vardı ve insanlar su ihtiyaçlarını oradan karşılıyorlardı. Daha sonra bu tepeden Bizita Dağına ve Moriya tümseğine yerleştiler.
Kudüs tarihteki en eski şehirlerdendir. Tarihçiler Kudüs'ün inşa ediliş tarihi için kesin bir şey söylememektedirler. Mescid-i Haram'dan 40 yıl sonra kurulmuştur. Tarihi kaynaklara göre Kudüs şehri kurulduğunda çölden ibaretti, ne vadi ne de dağlara rastlanıyordu. Milattan 3000 yıl önce, Şehre ilk hicreti Arap Kenâniler yaptı. Bu göçler Arap yarımadasının kuzeyine gerçekleşmiştir. Daha sonra Ürdün nehrinin batısına yerleşmişlerdir. Kudüs şehri göçler sonucunda genişledi ve Akdeniz'e kadar uzandı. Bölgenin adını Kenan yeri (Nehirden Denize kadar olan bölgede) koydular. Kenan bölgesin de Kenâniler bir şehir kurup adını Urşelim koydular, şehir merkezi haline getirdiler, vatan ve toprak sahibi oldular, bundan dolayı şehrin adı Yebus oldu. Bu bölgeye saldırılarda bulunan Mısırlıların ve Sina çölündeki kaybolan İbrani kabilelerin saldırılarına karşı çıktılar ve o bölgeye sahip oldular. Kenâniler yıllar boyunca bu bölgeye olan saldırılara da karşı çıktılar.

HZ. ÖMER'İN KUDÜS'Ü FETHİ

Efendimiz Hz. Muhammed (s.a.v)'in İsrâ hadisesi gerçekleştiğinde, İslam fetihleri devri başladı. Bu hadisede Kâbe ve Mescid-i Aksa'nın aralarında manevi olarak bağlantı kuruldu. İslam Ordusu Ubeyde Bin Cerrah önderliğinde şehri kuşattılar. Patrik Safronyus şehrin anahtarını Hz.Ömer'in kendisine vermek istedi ve Hz.Ömer şehre geldi. Maddi olarak bağlantı Hz.Ömer (r.a)'ın şehre gelmesiyle gerçekleşti (636). Şehri aldıktan sonra bir emaname (güven fermanı) yazıldı ve Hz Ömer (r.a) şehrin ismini İlya'dan Kudüs'e çevirdi.

Hz.Ömer (r.a) devrinden sonra Emeviler şehri kontrol altına aldılar ve çok önem verdiler. 661 ile 750 yılları arasında hüküm sürdüler. Abbasiler 750 ile 878 yılları arasında Kudüs şehrine hâkim oldular. Abbasiler, Fatimiler ve Karmatiler arasında olan askeri darbelerden dolayı şehirde istikrarsızlık yaşandı. 1071 tarihinde Selçuklular şehre hâkim oldu. Daha sonra Fatimilerle yaptıkları çatışmalardan dolayı haçlılar 88 yıl Kudüs'ü işgal ettiler. Toloni, İhsidi ve Fatimiler (Mısırlılar) zamanında Kudüs ve Filistin Mısıra tabi oldu.

1187 yılında Selahaddin Eyyubi Kudüs'ü Hittin Savaşında haçlıların elinden geri almayı başardı. Kudüs halkına en iyi şekilde muamele yaptı. Kübbetü's Sahra'nın üstündeki haç işaretini kaldırttı. Şehrin restore, mimari ve yenilenmesine çok önem verdi.

Osmanlılar 28 Aralık 1516'da Sinan Paşa önderliğinde, Yavuz Sultan Selim'in Mısır Seferinde Kudüs'e girdiler. Kudüs'ün Fethinden sonra Yavuz Sultan Selim Mukaddes Kudüs şehrini 31 Aralık 1516 tarihinde ziyaret etti ve şehrin ismini Kudüs-ü Şerif olarak değiştirdi.

Yavuz'un şehre gelişi sırasında Kudüs'ün tüm ruhanîleri padişahı şehrin dışında büyük bir tâzimle karşıladılar. Yavuz, ruhanîlere gerekli ilgiyi gösterdikten sonra, şehrin tam karşısında otağını kurdurttu. Bu sıralar ikindi vaktiydi. Padişah akşam namazını Mescid-i Aksa'da kılacağını söyledi. Bunun üzerine görevlilere haber gönderildi. Kur'an'ın sitayişle bahsettiği bu kutsal mabed 12.000 kandille aydınlatılır. Padişah bu kutsal kente namaz vaktinden önce girer. Önce Kubbetü's Sahra'da Rummân Davud (a.s.) ile Nahl-i Hamza (r.a.) ziyaret eder. Sonra Hacer-i Sahra'y tavaf eder. Daha sonra Kubbe-i Sahra'nın altına iner ve burada iki rekât hacet namaz kılar. Buradan akşam namazının edası için Mescid-i Aksa'ya geçer.

Görevliler, padişahı kokulu mumlarla karşılarlar. Sultan burada akşam namazını edâ ettikten sonra, biraz dinlenir. Daha sonra burada iki rekât hacet namazı kılar, dualar eder. Yatsıyı da eda ettikten sonra otağna döner. Sultan, ertesi sabah binlerce koyun ve deve kurban ettirir. Kubbe-i Sahra'yı ziyaret eder ve Mescid-i Aksa'da iki rekât hâcet namaz kılar. Daha sonra şehri gezer, Kudüs halkına ihsanlarda bulunur. 

Osmanlı Devleti Kudüs'e 400 yıl hâkim olmuştur. Osmanlı için Kudüs her zaman büyük önem taşımıştır. Kanuni Sultan Süleyman, Sultan 4.Murad, Sultan Abdülmecid, Sultan Abdülaziz ve 2.Abdülhamid han Kudüs Şehri için pek çok hizmette bulunmuştur.