에니그마, 그리고 그 이면에 숨겨진 폴란드의 이야기
제2차 세계대전을 소재로 한 영화나 소설을 접해 본 사람이라면 에니그마(Enigma)라는 이름을 한 번쯤은 들어봤을 것이다. 에니그마는 전기·기계적인 방식으로 암호문을 만들고 풀어내던 독일의 암호화 장치로, 당시 독일군의 통신 보안을 책임졌던 핵심 장비였다.
영국의 타이펙스(Typex), 미국의 시가바(SIGABA) 같은 유사 장치들과 함께, 이 기계의 원리를 연합군 기술진이 간파했다는 사실 역시 널리 알려져 있다.
그러나 많은 사람들이 모르는 사실이 하나 있다. 전쟁이 발발하기 한참 전부터 암호 분석(cryptanalysis)의 토대를 놓은 주역은 바로 폴란드의 암호 해독 전문 기관, 비우로 시프루프(Biuro Szyfrów), 즉 '폴란드 암호국'이었다는 점이다.
모든 것의 시작: 폴란드-소비에트 전쟁
비우로 시프루프의 활동을 불러온 계기는 실제로 있었던 전쟁이다. 1919년부터 1921년까지 폴란드와 훗날 '소련'으로 불리게 되는 국가 사이에 벌어진 전쟁이 바로 그것이다.
유제프 피우수트스키(Józef Piłsudski) 원수가 이끄는 폴란드는 18세기에 잃었던 옛 영토를 되찾으려 확장 정책을 추진했고, 소비에트 측은 제1차 세계대전 중 혁명 발발로 전선을 이탈하며 상실한 땅을 회복하려 했다. 베르사유 조약은 이 문제를 제대로 다루지 못했고, 결국 양측의 충돌은 불가피해졌다. 전쟁은 바르샤바 전투에서 폴란드가 승리하면서 일단락되었고, 리가 조약을 통해 해당 지역이 분할되었다.
셉차 시프루프, 붉은 군대의 암호를 깨다
이 과정에서 결정적인 역할을 한 것이 비우로 시프루프의 전신인 셉차 시프루프(Sekcja Szyfrów), 즉 '암호 부서'였다. 1919년 봄, 요제프 세라핀 스타슬리츠키(Józef Serafin Stanslicki) 중위가 창설한 이 조직은 스테판 마주르키에비치(Stefan Mazurkiewicz), 바츠와프 시에르핀스키(Wacław Sierpiński), 스타니스와프 레시니에프스키(Stanisław Leśniewski)라는 저명한 수학자 세 명의 도움을 받아 붉은 군대가 사용하던 암호 체계를 해독하는 데 성공했다.
당시 소련군의 암호는 차르 시절의 것을 그대로 쓰고 있었는데, 끊이지 않는 전쟁 상태 때문에 근대화할 여유가 없었던 것이다. 덕분에 폴란드군은 적의 작전 계획을 항상 미리 파악하며 우위를 점할 수 있었다.
놀라운 점은 폴란드 암호 해독 요원들의 속도였다. 때로는 하루 만에, 심지어 같은 날 안에도 메시지를 풀어냈다. 투하쳅스키, 세르기예프, 부됸니, 가야 같은 고급 지휘관들의 전보는 물론, 트로츠키 본인의 메시지까지 해독했고, 이를 통해 폴란드군은 필요한 곳 어디든 남다른 속도로 병력을 동원할 수 있었다.
심지어 투하쳅스키와 부됸니가 무전으로 주고받은 유명한 논쟁마저 엿들었다는 이야기도 전해진다. 흥미롭게도 소련 측 역시 적의 무선 교신을 가로채고 있었지만, 폴란드에는 무국 설비와 현대적인 보안 체계가 부족했기 때문에 그 규모는 훨씬 작았다.
어쨌든 셉차 시프루프의 탁월한 활약은 폴란드군이 소련 방어선의 좌익에 균열을 내고 쐐기를 박는 데 결정적으로 기여했고, 그 결과가 바로 바르샤바의 승리, 그리고 소련 측의 휴전 수용이었다. 피우수트스키 본인도 훗날 이를 회고하며 밝힌 바 있다.
비우로 시프루프로의 개편
이것은 영광스러운 첫걸음에 불과했다. 1931년, 기존의 레페라트 라디오비야드(Radio Intelligence Bureau)(무선 정보국)와 레페라트 시프루프 브와스니흐(Polish Cryptographic Office)(폴란드 암호국) 두 부서가 통합되면서 기관의 이름이 비우로 시프루프로 바뀌었다. 새로 태어난 기관은 자국용 암호를 개발하는 한편, 무엇보다 타국의 암호를 해독하는 데 주력했으며, 여기에는 폴란드에 잠입한 적성 국가 요원들의 이동식 무국을 추적하고 위치를 파악하는 임무도 포함되어 있었다.
운명적인 소포: 독일 암호기와의 첫 만남
1927년에서 1928년 사이, 폴란드는 우편물 검역 과정에서 독일산 암호화 기계 한 대를 입수하게 된다. 겉으로는 특별히 중요하지 않은 무선 장비라고만 적혀 있었는데, 독일 대사관이 반환을 강력히 요구하면서 수상함이 드러난 것이다. 폴란드 측은 기계를 조심스럽게 개봉해 세밀히 분석한 뒤, 흔적조차 없이 다시 포장해 독일에 돌려주었다. 마치 처음부터 열린 적이 없었던 것처럼 말이다.
당시 에니그마는 아직 생산되지 않았으므로 이 기계는 아마도 그 전신 격이었을 것이다. 그러나 이 덕분에 폴란드는 독일식 암호 체계와 그 구조에 익숙해질 수 있었다. 이후 이 기계가 첫 무선 메시지를 송신하기 시작했을 때, 폴란드 기술자들은 이미 그 내용을 해독할 준비가 되어 있었다. 전쟁은 아직 멀었기에 큰 파장은 없었다.
에니그마 복제와 세 명의 천재
1930년, 독일이 최초의 에니그마를 배비하기 시작하자 폴란드 역시 이를 알아차리고 복제품 제작에 착수했다. 결코 쉬운 일이 아니었다. 독일은 기계의 구조를 점점 더 복잡하게 개량하고 있었기 때문이다. 그러나 1933년 집권한 나치 정권의 공격성을 감지한 폴란드는 노력을 배로 늘렸다.
1938년 1월경에는 성공적인 해독률이 약 75%에 달했다. 이 프로젝트를 위해 발탁된 젊은 수학자 마리안 레옙스키(Marian Rejewski)는, 동료 예지 로위츠키(Jerzy Różycki)와 헨리크 지갈스키(Henryk Zygalski)와 함께 인력이 더 보강되면 성과를 더 끌어올릴 수 있으리라 보았다. 다만 전송 품질이 나쁜 통신들은 어떻게 해결할 수 없는 숙제로 남을 것이었다.
1937년에는 기관의 본부가 참모본부가 있던 18세기 작센 궁전에서 카바티 숲(Kabaty forest)으로 이전했다. 직원들을 위해 특별히 지어진 이 시설은 작업 환경 개선이라는 목적과 함께, 독일 첩보기관 아프베어(Abwehr) 스파이들의 접근을 어렵게 만든다는 이중의 의미도 지니고 있었다.
전쟁의 시작, 그리고 서방 동맹국에 대한 헌납
1939년 9월 1일, 제2차 세계대전이 발발했다. 비우로 시프루프의 경고를 받은 폴란드 참모본부에게 베르마흐트의 침공은 결코 놀라운 일이 아니었다. 하지만 그것만으로 강대한 독일 전쟁 기계를 막을 수는 없었다.
그래서 그해 7월 말, 폴란드는 자신들의 성과를 프랑스와 영국의 암호학자들에게 알리고, 축적한 모든 자료와 직접 제작한 에니그마 복제품까지 넘겼다. 오늘날 많은 분석가들은 독일 잠수함 함대가 영국의 해상 보급로를 질식시키지 못한 것이 폴란드가 제공한 데이터 덕분이라고 믿는다. 독일 함장들이 대서양에서 보내는 신호를 연합군이 조기에 해독할 수 있었던 것이다.
폴란드가 함락되자 비우로 시프루프는 기밀 기록물을 적의 손에 넘어가지 않도록 모두 파기했다. 직원 일부는 국내 남동부로 후퇴했지만, 9월 17일 소련의 침공이 시작되면서 루마니아로 옮겨졌고, 기묘한 경로를 거쳐 마침내 프랑스에 도달했다. 반면 폴란드에 남은 이들도 있었다. 게슈타포에 체포되었지만, 단 한 명도 자신들이 독일군의 암호를 해독할 줄 안다는 사실을 입에 담지 않았다.
튜링과의 협업, 그리고 완성된 해독 체계
1940년, 유명한 앨런 튜링(Alan Turing)은 폴란드 암호학자들과 지식을 교환할 기회를 가졌다. 이 협업을 통해 연합군은 코드를 수시로 바꿔가며 버티던 독일의 모든 메시지를 최종적으로 해독할 수 있게 되었다. 결정적인 돌파구를 마련한 것은 튜링이었지만, 그 성과의 상당 부분은 폴란드 동료들의 기여였다. 레옙스키는 훗날 이렇게 회상했다. 영국에는 이 일에 종사하는 1만 명이 있었지만, 폴란드에는 겨우 세 명뿐이었다는 것이다. 협업의 가장 큰 이득은 노력의 중복을 피하고 해독 과정을 가속화한 데 있었다.
망명의 길, 그리고 희생
프랑스가 함락되자 폴란드 암호학자들은 알제리로 피신했다가 비시(Vichy) 지역으로 옮겨갔다. 그곳에서 그들은 SS와 게슈타포의 수많은 움직임에 관한 정보를 제공했다. 흥미롭게도 이들은 소련의 암호 역시 분석하여 해독해냈다.
이후 프랑스 땅을 떠날 수밖에 없게 된 그들은 스페인행을 시도했지만, 로위츠키를 포함한 여럿이 1942년 라모리시에르(Lamoricière) 호 침몰 사고로 목숨을 잃었다. 레옙스키와 지갈스키는 피레네 산맥을 도보로 넘었으나 안내인에게 강도를 당했고, 스페인의 감옥에서 혹독한 나날을 보낸 끝에 이듬해 적십자의 도움으로 석방되었다. 마침내 영국에 도착한 그들은 망명 폴란드군에 합류했다.
전쟁이 끝난 후
전쟁이 끝나자 더 이상 필요하지 않다는 이유로 비우로 시프루프는 폐쇄되었다. 레옙스키는 폴란드로 돌아와 30여 년간 다른 분야에서 살다가 1980년 세상을 떠났고, 지갑스키는 잉글랜드에 남아 1978년 생을 마감했다.
한편 스페인행을 시도하다 붙잡힌 동료들과 그들의 상사 몇몇은 게슈타포의 손에 넘어갔다. 그러나 폴란드에 남았던 이들처럼 그들 또한 누구도 입을 열지 않았다. 그렇기에 독일은 끝내 자신들의 에니그마가 연합군에 귀중한 정보원이 되고 있었다는 사실을 알지 못했다.
참고 자료
Enigma: How the Poles Broke the Nazi Code(Władysław Kozaczuk, Jerzy Straszak) / Alan Turing, Enigma and the Breaking of German Machine Ciphers in World War II(Lee A. Gladwin) / Enigma: The Battle for the Code(Hugh Sebag-Montefiore) / Mathematics and War(Bernhelm Booß-Bavnbek, Jens Høyrup) / Wikipedia
추천 도서
Enigma: How the German Machine Cipher Was Broken, and How It Was Read by the Allies in World War Two(Christopher Kasparek, Thomas Troy)
