Można nieraz spotkać opinię, że gdy Rzymianie stłumili żydowskie powstanie, zdobyli Jerozolimę i zburzyli drugą Świątynię (70 r.), mieszkańcy buntowniczej prowincji - którą nazwano Palestyną (był to obszar większy niż dziś określany tym mianem) - zostali wypędzeni z ojczyzny i odtąd żyli tylko w diasporze. Podbój był faktem, podobnie jak wygnanie Izraelitów, sprzedaż ich znacznej liczby w niewolę oraz rozproszenie po północnej Afryce i południowej Europie. Jednak w zniszczonej prowincji pozostało niemało Żydów.
Przez kilka lat (do 73 r.) broniła się twierdza Masada, której ruiny są dziś dla Izraelczyków pamiątką narodową i celem wycieczek. Pozostali rolnicy żydowscy. W mieście Jawne, niedaleko wybrzeża Morza Śródziemnego, znalazł swą nową siedzibę Sanhedryn, najwyższy religijny organ prawodawczy i sądowniczy. W tej samej miejscowości rabin Jochanan Ben Zakkaj założył centrum nauczania, które stało się wzorem dla jeszyw (uczelni religijnych) i synagog w diasporze. Wyrosły też inne ośrodki skupiające uczonych, szukających odpowiedzi na pytania, jak postępować, by żyć w zgodzie z Torą (czyli Pięcioksięgiem Mojżesza) i z innymi świętymi księgami hebrajskiej Biblii. Wyjaśnienia i komentarze stworzyły podstawy halachy, czyli prawa opartego na zasadach judaizmu, które ujęto później w obszernych tomach spisanego w średniowieczu Talmudu.
Kolejne powstanie przeciw Rzymowi - pod wodzą Szymona Bar Kochby - wybuchło w 132 r.; także ono poniosło klęskę. Skutkiem były nowe zniszczenia, represje i migracje, lecz Żydzi nadal mieszkali w Palestynie. Do 395 r. krajem rządzili Rzymianie, następnie Bizan-tyjczycy, ustępując w 636 r. Arabom. Kolejni zdobywcy to muzułmańska dynastia Seldżuków (1091-1098), chrześcijańscy krzyżowcy (1099-—1291) i władający Egiptem muzułmańscy Mamelucy (1291-1516),
7