התקופה הרומית-ביזנטית התחילה בשלטון רומי פגאני והפכה לשלטון רומאי נוצרי (=ביזנטי) לאחר התנצרות האימפריה. המעבר בין שתי התקופות מצוין בציר הזמן שלפנינו בשנת 324 לספירה, עם איחודה של האימפריה הרומית תחת שלטונו של הקיסר קונסטנטינוס הגדול. תאריך זה הינו סמלי בעיקרו, זאת משום שלמעשה תהליך התנצרות האימפריה הרומית ארך שנים ארוכות, במהלך המאה ה-4 לספירה.

התקופה הרומית והביזנטית
התקופה הרומית המאוחרת
לאחר חורבן ירושלים בשנת 70 לספירה שלטו בה הרומאים, והלגיון העשירי ישב בה ככל הנראה ליד שער יפו של ימינו. רק בימי הדריאנוס (ראשית המאה השנייה) החלו הרומאים לבנות את ירושלים כעיר אלילית בשם "איליה קפיטולינה", שבה רחובות אורך ורוחב ומקדשים פגאניים.
עיר דוד ההרוסה נחצבה על ידי הרומאים עבור בניין העיר הרומית. בשנת 132 לספירה פרץ מרד בר כוכבא – אולי כתגובה להפיכת ירושלים לעיר אלילית – שדוכא באכזריות רבה על ידי הרומאים. באופן רשמי יהודים לא הורשו להתגורר בעיר, אך קיימות עדויות לכך שהיו יהודים שהתגוררו בה והיו מי שביקרו בה.
התקופה הביזנטית
במהלך המאה הרביעית התנצרה האימפריה הרומאית בשלבים, ובירתה עברה לקונסטנטינופוליס, היא איסטנבול של ימינו. כנסיות ורחובות שנבנו לאורך התקופה שינו את אופייה של ירושלים, שהפכה לעיר נוצרית.
בעיר התקיימה קהילה יהודית מצומצמת, לפחות בחלק מהתקופה, ויהודים הורשו לעלות להר הבית בתשלום על מנת לבכות את חורבנו בתשעה באב. למרות קדושתה של העיר בעיני הביזנטים, היא לא הפכה בשום שלב לבירת האימפריה, ואף לא שימשה כבירת מחוז.