在宗教的帮助下，公元前1025年左右，第一个希伯来人国家建立，后来又征服了耶路撒冷，并将其定为首都。希伯来人最强大时几乎占领了埃及和亚述这两个强国之间的所有地区。
世上没有万世一统的江山，很快他们就分裂为两个国家。北方的叫以色列王国，南方的叫犹太王国。分裂意味着弱小，公元前715年，亚述帝国灭亡以色列王国。公元前585年，巴比伦攻入耶路撒冷，犹太人经历了第一次大流散。
此后巴勒斯坦轮流被各大强国统治，犹太民族又经历了两次大流散，尤其是在公元1至2世纪之间，罗马帝国疯狂地屠杀了150万犹太人，并将余下的全部驱逐出境。
犹太人开始大规模的流落到世界各地，一部分人又回到了他们祖先生活过的地方。阿拉伯人当时还过着落后的游牧生活，他们并没有迫害犹太人，反而感激犹太兄弟带来了高度的文明和先进的农业技术。
