사실 시온은 예루살렘의 작은 산 이름이다. 키드론 골짜기와 티로페온 골짜기 사이에 자리를 잡고 있다. 원래 여부스족의 땅이었으나 다윗이 빼앗아 그 위에 성을 지어, 다윗 성이라고 알려졌다(2사무 5,7). 다윗이 계약 궤를 그곳으로 가져간 탓에 시온은 신성한 이미지를 얻었다. 세월이 흐르면서 시온이라는 이름은 신의 성전이 있는 장소를 나타내게 되었다.

실제 성전은 모리아 산에 있었다. 그 뒤 시온은 예루살렘을 대표하는 이름이 되었고, 바빌론이 예루살렘을 정복한 뒤에는 유대인 망명자들이 이스라엘의 고향을 가리켜 시온이라고 불렀다. 시편을 보면 유대인 망명자들이 시온을 얼마나 소중히 여겼는지 잘 알 수 있다.

실제로 시편에는 예루살렘보다 시온이라는 이름이 더 많이 나온다. 시편을 비롯해 성경에 시온이 언급되는 것을 보면, 시온이 단지 하나의 산이나 도시에 불과한 의미가 아니라는 것을 확실히 알 수 있다. 시온은 신의 존재를 상징하게 되었다. 유대인들은 스스로를 '시온의 아들 딸'이라고 불렀다.

세계 각지의 유대인들이 팔레스타인에 유대의 나라를 세우려 한 운동을 시오니즘이라고 부르는 것은 이상한 일이 아니다. 이 운동은 1890년대에 시작되었으나 시오니즘이라는 명칭은 지금도 이스라엘 국가를 보존하려는 유대인들의 노력을 가리키는 의미로 사용된다.