암호학의 역사는 인류가 언어를 사용하기 시작한 때만큼이나 깊습니다. 남아 있는 기록에 따르면 고대 이집트, 중국, 인도, 그리스에서도 이미 상당히 정교한 메시지 암호화 기법이 사용되었던 것으로 알려져 있습니다.
특히 군사 분야에서 메시지를 안전하게 주고받아야 할 필요는 스키테일(scytale)과 같은 도구의 탄생으로 이어졌습니다. 스파르타의 에포로스(감찰관)들이 사용했던 이 유물은 굵기가 같은 막대 두 개로 구성됩니다. 하나는 발신자용, 다른 하나는 수신자용으로, 메시지가 적힌 가죽 리본을 막대에 감아 주고받았습니다. 물론 굵기가 같은 막대에 리본을 다시 감아야만 비로소 내용을 읽을 수 있었습니다.
헤로도토스가 상세히 기록했듯이, 메시지 자체의 존재를 숨기는 스테가노그래피(은폐 통신)가 사용되었다는 증언도 전해집니다.
하지만 메시지나 경보를 빠르게 전달해야 하는 상황이라면 선택지는 많지 않았습니다. 가장 즉각적인 수단은 연기 신호와 봉화였습니다. 연기 신호라고 하면 서부극에 등장하는 아메리카 원주민부터 떠올리기 쉽지만, 사실 이 방법은 수천 년 전 중국이나 그리스에서 이미 사용되었으며, 오늘날에도 교황 선출 콘클라베의 흑연·백연 신호처럼 그 맥이 이어지고 있습니다.
그러나 치명적인 한계가 있었습니다. 연기와 봉화 신호는 발신자와 수신자가 미리 합의해 둔 메시지만 전할 수 있다는 점입니다. 즉, 양측이 신호와 그 의미를 사전에 알고 있어야 했으므로, 즉흥적인 내용을 전달해야 하는 경우에는 손쓸 방법이 없었습니다.
그리스인들은 클레옥세노스(Cleóxenos)와 데모클리토스(Democlitus, 번역본에 따라 Cleóxenes·Demoditus로 표기되기도 함)의 발명 덕분에 이 문제를 해결합니다. 기원전 2세기에 최초의 보편사를 집필한 그리스의 역사가 폴리비우스는, 연기와 불꽃 신호로 그리스 알파벳 문자를 전송하는 일종의 전신 통신 시스템의 발명자로 이들의 이름을 기록에 남겼습니다.
흥미롭게도 폴리비우스는 자신이 이 체계를 완성했다고 덧붙입니다. 그가 명시적으로 밝히지는 않았지만, 자신이 직접 목격한 누만티아 포위전 중에 이러한 개선이 이루어졌을 가능성이 매우 높다는 지적입니다.
그 방식은 놀랄 만큼 단순합니다. 표에 배열된 숫자 좌표로 알파벳 문자를 암호화하는 것으로, 각 글자는 세로축과 가로축의 위치에 따라 두 개의 숫자로 표현됩니다. 『전함 격침』 같은 좌표 게임을 해 본 사람이라면 누구나 쉽게 이해할 수 있는 원리입니다. 하지만 당시에는 새롭고, 어쩌면 혁명적인 발상이었습니다.
기원전 134년경 그리스 역사가의 개선으로 오늘날 폴리비우스 암호표(Polybius square)로 알려지게 된 이 체계는, 메시지 전송을 위한 횃불 사용 규정에 초점을 맞추고 있었습니다.
이제 사전에 합의된 통보뿐 아니라, 아무리 즉흥적이고 긴급한 메시지라도 모두 전송할 수 있게 되었습니다. 다만 널리 보급되면 방법을 아는 누구나 메시지를 해독할 수 있으므로, 시간이 흐르면서 암호화 기술 자체도 함께 발전하게 됩니다. 하지만 그것은 또 다른 이야기입니다. 중요한 것은 인류가 처음으로 모든 종류의 즉석 메시지를 먼 거리에 즉각적으로 전송할 수 있게 되었다는 사실입니다.
따라서 로마군에도 이런 임무를 전담하는 병사들이 있었으리라고 짐작하는 것은 무리가 아닙니다. 어쨌든 폴리비우스 암호표는 암호화 기법과 결합하여 KGB를 비롯한 각종 군사 및 비밀 조직에서 폭넓게 활용되었습니다.
