로마제국은 여러 속주로 나누어졌고, 각 속주는 황제가 임명한 총독이 통치했습니다. 유대는 처음에는 총독의 통치를 받았지만 나중에는 총독의 통치를 받게 되었습니다. 로마 행정부는 질서를 유지하고 세금을 징수하는 일을 담당했지만, 속주에는 자체 법률과 지방 법원이 있어 어느 정도 자치권도 갖고 있었습니다.
로마시대는 팔레스타인에 있어서 큰 변화의 시기였다. 유대인 인구는 로마 통치를 지지하는 사람들과 반대하는 사람들로 나누어졌습니다. 로마 통치에 맞서 유대인들이 여러 차례 반란을 일으켰는데, 가장 대표적인 것은 서기 66~73년에 일어난 대반란으로, 그 결과 예루살렘 제2성전이 파괴되었습니다.
이러한 어려움에도 불구하고 로마 시대에는 유대 문화와 종교가 번성했습니다. 유대 율법과 전통의 중심 문헌인 탈무드는 이 시기에 편찬되었습니다. 기독교도 로마 시대에 출현했는데, 나사렛 예수가 팔레스타인에서 태어나 십자가에 처형당했습니다.
로마제국은 결국 동로마제국(비잔틴제국)과 서로마제국으로 분열되었다. 팔레스타인은 7세기에 아랍인 라시둔 칼리프에 의해 정복될 때까지 비잔틴 제국의 지배를 받았습니다.
