בשנת 1099 כבשו הצלבנים את ירושלים וטבחו בתושביה המוסלמים והיהודים. הצלבנים שלטו בעיר עד 1187, אז נכבשה ממלכתם על ידי המנהיג המוסלמי צלאח א-דין אל-איובי. בשנת 1192 יסדו הצלבנים ממלכה שנייה, מצומצמת יותר בגודלה, שהתקיימה עד לחיסולה בידי המוסלמים הממלוכים בשנת 1291.
ירושלים הייתה בירת הממלכה הצלבנית בתקופת הממלכה הראשונה, אך בתקופת הממלכה השנייה שלטו הצלבנים רק בחלק מירושלים במשך כ-15 שנה בלבד ובירתם הייתה עכו. בירושלים הם בנו שווקים, כנסיות ובתי חולים, וגבולות העיר חפפו במידה רבה את תוואי חומות העיר העתיקה בת ימינו.
לאורך רוב התקופה יהודים לא הורשו להתגורר בעיר, אך לקראת סופה של התקופה הצלבנית הראשונה הורשו מספר מצומצם מהם להתגורר ליד מגדל דוד, סמוך לארמון המלך.