แม้ต่อมาชาวยิวในบาบิโลเนียได้รับอิสรภาพจากพระเจ้าโซรัสแห่งเปอร์เซียที่ทรงตีกรุงบาบีโลเนียได้เมื่อ 536 ปีก่อนคริสต์กาล และกลับไปฟื้นฟูนครเยรูซาเลม แต่ก็มีเอกราชได้เพียงแค่ในยุคที่เปอร์เซียเรืองอำนาจเท่านั้น ในยุคกรีกและโรมันเรืองอำนาจชาวยิวก็กลับมามีชีวิตยากลำบากและถูกกดขี่ข่มเหงอีกครั้งจากชาติ
ต่างๆ ที่ผลัดเปลี่ยนกันเข้ามาปกครองตน