不过，统一情况没有维持太久。从第三代君王所罗门开始，这个王国逐渐分成了南北两个支派，南方的支派就是常说的“犹太”、“犹大国”，与北国并存了200年左右的时间，犹太国的首都是耶路撒冷。后来，北国比南国先灭亡，在公元前722年遭到入侵，人民四散。
但南方的犹太国也没有坚持很久的时间，一百多年后，犹太王国位于耶路撒冷的圣殿也被推倒了，古巴比伦人进入了这片土地，拿走了自己想要的资源，并且将犹太人流放。但巴比伦帝国同样没有笑到最后，因为波斯人和希腊人的强盛，巴比伦也向波斯人低下了头。
出于这个原因，犹太人能够重新回到故乡，在那里重塑他们的精神信仰，也就是圣殿。不过在巴比伦人流放犹太之后，犹太国其实已经不存在了，即使回到故乡，他们也只是被其他统治者管理的存在，没有重新建立故国的资格，而且，灾难并未结束，仍在持续。
