在幅员辽阔的亚历山大帝国境内，被征服居民杂居交往，造成犹太人历史上的第二次大流散，巴勒斯坦的犹太人逐渐流散到南欧、地中海诸岛以及北非、中亚各地。公元前323年，亚历山大病死于巴比伦。随后地跨欧亚非的庞大帝国一分为三，即安提柯王朝统治下的希腊及马其顿，托勒密王朝统治下的埃及和塞琉古王朝统治下的叙利亚。公元前301年，托勒密率军征服巴勒斯坦，把上万的犹太人掳到亚历山大城。公元前198年，犹太人又落入塞琉古王朝控制下。两王朝继续追随亚历山大推广希腊文化的政策，仅在巴勒斯坦一地就建立起30多座多民族杂居的希腊化城市。
在托勒密王朝统治期间，犹太人开始大规模定居埃及，其中既包括被迫迁来的犹太战俘、奴隶、雇佣兵及家属，也有出于各种原因而寓居的犹太工匠、商人、祭司和文士。到公元1世纪时，全埃及已有犹太人近100万。总体来说，犹太人在当地希腊文化的熏陶下，结合本民族的文化传统，创造了一种独特的、兼具犹太和希腊特征的文化。这种文化不仅影响古代犹太哲学，而且对早期的基督教也起过相当大的作用。犹太教希伯来圣经最早的希腊文译著——“七十子希腊文译本”，即是这种犹太-希腊文化的光辉结晶。
第三次大流散
塞琉古王朝时期，犹太人在马卡比家族的领导下，恢复了犹太人的独立和宗教信仰，以耶路撒冷为首都建立了一个政教合一的犹太神权国家，史称马卡比王国。公元前64年，正当马卡比王国内部各派为争夺耶路撒冷圣殿大祭司的职位争吵不已时，早已虎视眈眈的罗马帝国伺机而动。罗马大将庞培于东征途中率领铁骑攻陷耶路撒冷，将巴勒斯坦划入罗马帝国的叙利亚行省。
公元前37年，罗马人任命了新的犹太王，哈斯蒙尼王朝正式灭亡。由此马卡比王国存在了一百来年之后终于覆灭，一度享受到独立自由的犹太民族，重新开始了他们漫长的苦难生涯。
公元6年，迦南犹太人转归罗马直接统治。罗马帝国“铁与火”的野蛮专制、横征暴敛，激起了犹太人连绵不断的武装反抗。在公元前后，获太人数度掀起反抗罗马暴政的民族大起义，在历史上称为“犹太战争”。公元66年，罗马总督弗洛鲁斯公然抢劫耶路撒冷圣殿的财宝，愤慨万千的犹太人在爱力阿沙尔等领导下，举行暴动歼灭罗马驻军，随后又与前来镇压的罗马军队争战数年。公元70年阿布月9日，罗马大将梯特率兵攻入耶路撒冷，第二圣殿被焚毁。此后，圣殿再也没有重建。后来，一些犹太人在圣殿的西外墙废墟上，用原圣殿所残留的石块垒起一堵长48米、高183米的大墙，称为“西墙”。这里后来成为犹太教的重要圣地。每年阿布月9日的圣殿被毁日，来自世界各地的犹太人都要身穿民族服装，在此或虔诚祈祷，或为民族历史上的苦难哭泣。因此西墙又称为“哭墙”。
公元132年，犹太人在大卫家族后裔巴尔?科赫巴的领导下，开始了规模空前的大起义，一度占领耶路撒冷。罗马当局连忙从不列颠调派大将塞维鲁率军征伐，将耶路撒冷攻下。起义军撤退到贝塔尔要塞，一直坚持到公元135年，终因力量对比悬殊，起义最后失败，包括科赫巴在内的犹太起义军遭到罗马军队捕杀。出于对不驯的犹太人的极端恐惧，罗马皇帝哈德良下令将耶路撒冷犁耕为田，而一座名叫埃利亚?卡皮托林纳的新城陡然耸立起来，犹太人不准跨入城内一步。除此之外，到处是残壁断垣，该地人口几乎被战争和随之而来的大批贩奴消耗殆尽；故都周围再无一片土地是犹太人居住的中心了。
经过数次起义，犹太人也死亡150多万，幸存者几乎全部逃离耶路撒冷，从而开始了古代犹太人长达2000多年的第三次大流散。
