בשנת 539 לפסה"נ החלה התקופה הפרסית לאחר שהאימפריה הבבלית הובסה בידי כורש מלך פרס. שנה לאחר מכן אפשר כורש ליהודים לשוב לארצם, בראשות זרובבל בן שאלתיאל – שהיה צאצא למלכי יהודה – ששבצר הנשיא, וישוע בן יהוצדק הכהן הגדול. כך החלה תקופת שיבת ציון, וב-515 לפסה"נ נחנך מחדש בית המקדש.

באמצע המאה ה-5 לפסה"נ, עשרות שנים לאחר שהחלה שיבת ציון, עלו לארץ עזרא הסופר ואחריו נחמיה – שהיה פקיד רם דרג במלכות פרס – ועימם יהודים רבים נוספים. בימי עזרא ונחמיה נבנתה חומה סביב ירושלים שכללה אז רק את גבעת עיר דוד והר המוריה.

עידן התהפוכות: התקופה ההלניסטית החלה עם כיבוש הארץ בידי אלכסנדר מוקדון בשנת 332 לפסה"נ. מיד לאחר מותו של אלכסנדר החלו מלחמות בין יורשיו, ובין שנת 300 לפסה"נ ל-200 לפסה"נ נשלטה הארץ על ידי השושלת התלמיית ממצרים. במאה השנייה לפסה"נ שלטה בארץ השושלת הסלווקית מסוריה.
הרדיפות הדתיות של היהודים גרמו למרד החשמונאים (המקבים) בשנת 167 לפסה"נ, שבעקבותיו הוקמה בשלבים הממלכה החשמונאית. הצלחת המרד החשמונאי מצוינת עד היום בחג החנוכה. עם כיבוש הארץ על ידי הרומאים בשנת 63 לפסה"נ הפכה ממלכת החשמונאים לממלכה בחסות הרומאים.

בשנת 63 לפסה"נ, בעת שבני משפחת חשמונאי נאבקו ביניהם על השלטון, נכבשה הארץ על ידי פומפיאוס הרומאי, שהוזמן על ידי הצדדים לשפוט ביניהם. כך החלה בארץ התקופה הרומאית הקדומה, ומאז סרו החשמונאים למרותם של הרומאים.
בשנת 37 לפסה"נ החל הורדוס למלוך בחסות הרומאים, והוא פיאר את ירושלים ואת הר הבית. עם מותו התמנה בנו ארכילאוס למלך יהודה, אך הרומאים הדיחו אותו מתפקידו. החל משנת 6 לספירה שלטו ביהודה נציבים רומאים, עד שנת 41 לספירה.
בשנת 41 לספירה קיבל אגריפס, נכדו של הורדוס הגדול, את המלוכה על יהודה ושלט בה עד 44 לספירה. עם מותו שבה רומא לשלוט ביהודה באמצעות נציבים רומאים. הדיכוי הרומאי והציפיות היהודיות לגאולה הובילו בשנת 66 לספירה לפרוץ המרד הגדול נגד הרומאים, שהסתיים בחורבן בית המקדש בחודש אב של שנת 70 לספירה.

עם פרוץ המרד הגדול נגד הרומאים בשנת 66 לספירה, הגיע לארץ צבא רומאי אדיר (בשיאו מנה צבא זה כ-60 אלף לוחמים), והחל לדכא בנחישות ובאכזריות את המרד. בשנים הבאות נכבשה כל הארץ על ידי הרומאים, ובחודש ניסן של שנת 70 לספירה החל המצור על חומותיה של ירושלים.
בחודש אב העלו הרומאים, בפיקודו של טיטוס, את בית המקדש באש, וחודש לאחר מכן החריבו את העיר העליונה של ירושלים ששכנה מול בית המקדש. תקופת הבית השני שנמשכה כמעט 600 שנה הגיעה לסיומה.