[수학 이야기]비밀은 계속된다! 고대부터 현대까지 암호 속에 숨은 놀라운 수학 마법

안녕하세요. 슬기토끼입니다.
옛날이야기 속 왕이나 장군에게도, 현대를 무대로 한 드라마 주인공에게도 공통으로 등장하는 것이 있습니다. 바로 비밀이지요. 왕실의 기밀, 전쟁터의 작전, 몰래 주고받는 은밀한 쪽지에 늘 이 비밀이 숨어 있습니다. 오늘은 이 비밀을 지켜주는 암호이야기를 하려고 해요. 암호와 수학의 관계를 역사 속 인물과 흥미진진한 사건을 곁들여 풀어보려 합니다. 어렵고 딱딱한 수식 대신, 시간여행을 떠나듯 신나는 암호 이야기 속으로 떠나 볼까요?

 

1. 스키테일 암호: 스파르타 병사들의 필살 비밀전략

고대 그리스 시대, 스파르타 하면 떠오르는 이미지는 강인한 전사들이죠. 기원전 5세기, 치열한 전투가 끊이지 않던 그 시절, 스파르타의 왕과 장군들은 전장에 있는 부하들에게 극비 메시지를 보내야 했습니다. 이때 사용된 도구가 바로 ‘스키테일’이라는 막대기였어요.
전령병들은 얇은 가죽 띠를 가지고 정보를 전달했습니다. 표면만 보면, 글자가 뒤죽박죽이라 누구도 내용이 뭔지 알 수 없지만 동일한 지름의 스키테일을 가진 스파르타 장군에게 전달만 되면, 가죽 띠를 다시 감아 원래의 문장을 복원할 수 있었던 거죠. 
스키테일 암호는 스파르타 군이 유용하게 사용하며 군사 기밀을 안전하게 지키는 데 큰 역할을 하였다고 합니다. 아주 단순한 방식 같지만, 막대기의 지름과 길이를 모르면 복원하기가 쉽지 않았거든요.

<스키테일 암호 사용 방법> 1. 전쟁전 똑같은 크기의 나무 막대기(스키테일)을 서로 나눠 갖는다. 2. 암호문을 작성할때는 이 스키테일에 리본을 위에서 아래로 감고 옆으로 메세지를 적는다. 3. 리본을 풀어내면 뒤죽박죽 된 메세지가 보인다. 4. 오직 똑같은 스키테일이 있는 자만 이 리본을 그곳에 감아 암호를 해독할 수 있게 된다.

 

스키테일 암호 형태(출처: 나무위키)

 

 

 

2. 시저 암호: 줄리어스 시저의 비밀 편지

 
시간을 조금 더 앞으로 돌려 볼까요? 이번에는 고대 로마 시대로 가봅시다. 로마의 정치가이자 장군인 줄리어스 시저가 의기양양한 모습으로 전쟁터를 누빕니다. 파죽지세로 영토를 확장하며, 곳곳에 지시를 내려야 하는데, 적국에 들키면 안 되겠지요?
 

2-1. 시저의 편지

시저는 매번 중요한 편지를 시저 암호로 바꾸어 적었습니다. 어느 날, 시저는 중요한 동맹 제의를 이집트의 클레오파트라에게 전달해야 했습니다. 편지에는 ‘로마와 이집트의 연합을 위해, 당신의 지원이 필요하다’라는 내용이 담겨 있었는데, 만약 적국이 이를 알아채면 로마군은 곤경에 처할 수도 있었습니다. 그래서 시저 암호로 작성해 극비리에 보냈고 결과적으로 비밀이 새 나가지 않았고, 로마는 중요한 외교적 이득을 얻었다고 전해집니다.

시저암호의 예를 들어 보겠습니다.  ‘ABC’란 글자에 3칸씩 더해 ‘DEF’로 적는 식이지요. KEEP IT SAFE(그것을 안전하게 보관해)는  → NHHS LW VDIH 라는 전혀 알수 없는 글자가 됩니다. 편지를 받은 쪽(암호키 3을 알고 있음)에서는 반대로 3칸을 빼면 원래 메시지가 돌아오니, 쉽게 알 수 있었겠지만 다른 사람은 무슨 소린지 알기 힘들었겠죠.

실제로 시저 암호는 오늘날에 이르러 교과서적인 예시가 되었지만, 당대에는 꽤 기발하고 안전한 전략이었습니다. ‘알파벳을 일정 칸수만큼 옮긴다’라는 규칙을 모르는 이상, 문장을 해독하기 쉽지 않았기 때문이지요. 시저 암호는 간단하지만, 숫자를 더 키우거나 불규칙적으로 바꾸면 더 강력한 암호가 될 수도 있습니다.
 

시저암호(출처: coding log)

 

 

3. 애니그마와 제2차 세계대전: 전쟁이 만든 거대한 암호 대결

이제 중세를 지나, 훌쩍 근현대로 점프해 봅시다. 제2차 세계대전이 한창이던 시기, 독일군은 에니그마(Enigma) 라는 혁신적인 암호 기계를 사용했습니다. 이 기계는 전장을 지휘하는 고위 장군부터 잠수함 사령관까지, 모든 통신에 쓰였다고 해도 과언이 아니에요.
 

3-1. 독일 해군 사령관 ‘칼 되니츠’의 야망

실제로 독일 해군을 이끌던 칼 되니츠 제독은 에니그마를 절대적으로 신뢰했습니다. 그는 ‘이 암호 기계를 사용하면, 연합군이 우리의 작전을 절대 예측하지 못할 것’이라 공언했죠. 여러 개의 회전판이 끊임없이 바뀌며, 알파벳 입력마다 다른 결과를 내보내니, 엄청나게 복잡했기 때문입니다.
하지만 이를 무작정 두 손 놓고 지켜볼 연합군도 아니었습니다. 영국의 블레츨리 파크에 모인 수많은 수학자·암호학자들, 그리고 기계공학자가 밤낮없이 해독 작업에 뛰어듭니다.
 

3-2. 앨런 튜링의 등장

그중에서도 가장 유명한 인물이 바로 앨런 튜링. 그는 당시 파격적인 아이디어와 논리를 바탕으로, 에니그마를 해독하기 위한 특별한 기계를 설계했습니다. 이를 ‘봄베(Bombe)’ 라고 부르는데, 일종의 기계 컴퓨터였어요. 끊임없는 시도와 논리적 추론 끝에, 드디어 독일군의 통신 내용을 파악할 수 있게 되었지요.
이때 해독된 정보들은 전쟁의 판도를 뒤엎을 만한 것들이었습니다. 독일 잠수함이 어디로 이동하는지, 어떤 전략으로 공격하려 하는지 연합군이 미리 알 수 있었으니까요. 이후 전쟁은 연합군 쪽으로 기울어졌고, 역사학자들은 ‘에니그마 해독 덕분에 전쟁의 승리가 최소 2년은 단축됐다’라고 평가하기도 합니다.

수학자 엘런튜링( 1912-1954 ) 독일의 애니그마의 암호를 풀어내 연합군의 승리를 이끌어냈다.(출처: 나무위키)

 

3-3. 전쟁의 드라마, 영화 <이미테이션 게임>

현대에 와서 이 이야기는 이미테이션 게임이라는 영화로 제작되며, 전 세계 관객의 마음을 사로잡았습니다. 배우 베네딕트 컴버배치가 앨런 튜링 역을 맡아, 수학·논리·암호에 미친 열정과, 동시에 인간적인 고뇌를 그려냈지요. 영화를 보면 이 암호가 단순한 방정식 싸움이 아니라, 전쟁의 승패를 가르는 운명적인 일이었음을 느끼게 해 주죠.

 
 

4. 영화·소설 속 암호: 다빈치부터 보물 지도까지

암호는 현실 전쟁만을 배경으로 하지 않습니다. 소설과 영화 속에서도 온갖 신비로운 장치와 상징, 암호문이 등장해 독자와 관객을 매료시켜 왔지요.
 

4-1. 다빈치 코드

댄 브라운의 유명한 소설 <다빈치 코드> 에는 레오나르도 다빈치의 그림과 종교적 상징들이 비밀 열쇠로 등장합니다. 주인공 로버트 랭던이 복잡한 암호 장치를 하나하나 풀어가면서, 유럽 곳곳에 숨겨진 비밀을 추적하지요. 실제 역사적 사실과 작가의 상상력이 절묘하게 뒤섞여, 독자에게 마치 미스터리 퍼즐을 푸는 재미를 줍니다. <다빈치 코드> 는 암호 애호가들 사이에서 ‘재미있게 볼만한 팩션(Faction) 작품’으로 손꼽힙니다.
 

4-2. 보물을 찾아라! <내셔널 트레져>

이 작품에서는 미국 독립선언서에 숨겨진 암호, 건국의 아버지들이 남긴 단서들이 잇따라 등장합니다. 주인공 벤 게이츠가 아버지와 함께 온갖 비밀 코드를 해독하며, 전설적인 보물을 찾으려 애쓰는 과정이 흥미진진해요. 지도 한구석에 씌어진 이상한 문양이 사실은 암호 메시지였다는 설정, 독립선언서에 감춰진 보물의 열쇠가 된다는 전개 등, 실제 역사와 허구가 어우러진 재미가 쏠쏠합니다.

내셔널 트레져, 미국 독립선언서에 숨겨진 암호를 찾는 영화이다.

 
 
 

5. 암호에 숨은 수학, 잠깐 맛보기!

근데 이런 암호들, 대체 어떻게 이뤄져 있는 걸까요? 암호는 수학과 무척 관련이 깊습니다. 그래서 뛰어난 암호 개발자는 뛰어난 수학자인 경우가 많지요. 복잡한 수학적 알고리즘을 전부 설명하면 지루해지겠지만, 살짝 맛보기 정도로 가볍게 엿보겠습니다.

-빈도 분석 예를 들어, 영어문장을 보면 ‘E’라는 글자가 제일 많이 등장합니다. 이런 통계적 규칙을 이용하면, 시저 암호 같은 단순 치환암호는 쉽게 풀립니다. 고대나 중세에는 이 ‘빈도’라는 개념을 처음 깨닫는 것만으로도 큰 비밀이었답니다. -정수론과 암호 소인수분해, 모듈러 연산, 지수 함수 등등… 이름만 들어도 어렵죠? 지금 우리가 쓰는 인터넷 보안(https)에는 이런 정수론의 난제(특히 소수 분해 문제)가 이용됩니다. 이론상으로는 풀 수 있어도, 시간이 엄청나게 오래 걸려서 사실상 불가능에 가깝게 됩니다. -알고리즘 ‘어떤 문제를 어떻게 효율적으로 해결할 것인가?’를 고민하는 게 알고리즘의 핵심입니다. 앨런 튜링이 에니그마를 해독하기 위해 만든 기계도, 기본적으로는 일일이 ‘가능한 모든 경우의 수’를 빠르게 시험해 보는 알고리즘적 사고에서 출발했습니다.

6. 현대의 암호: 우리가 매일 쓰고 있는 보안막

전쟁은 끝났고, 지금은 스마트폰 하나면 세상과 연결되는 시대입니다. 하지만 우리는 여전히 끊임없이 ‘비밀’을 주고받습니다. 은행 앱 비밀번호, 메신저의 종단간 암호화, SNS의 로그인 정보 등, 이런 모든 것들이 공개키 암호나 대칭키 암호 같은 수학 원리에 기반해 돌아갑니다.
예를 들어, 친구에게 메신저로 중요한 정보를 보낼 때, 도청 당하지 않으려면 서로만 알 수 있는 비밀을 공유해야 하죠. 공개키 암호는 누구나 볼 수 있는 열쇠(공개키)로 암호화하고, 정작 푸는 열쇠(개인키)는 나만 가지고 있는 구조입니다. 그렇게 해야 악의적인 해커가 중간에 메시지를 훔쳐봐도, 개인키 없이는 풀 수 없게 됩니다.
인터넷 쇼핑에서  우리 카드번호나 주소가 안전하게 전달되는 이유도, 결제 창이 암호화된 통신을 사용하기 때문입니다. 알맞은 키를 가진 사람만이 복호화할 수 있으니, 중간에서 누군가 정보를 빼가기가 쉽지 않은 것이죠.
 
 
 

7. 마치며: 비밀은 계속된다

‘스파르타 군사들이 밤하늘 아래 막대기에 가죽 띠를 돌돌 말며 이야기를 주고받던 장면, 로마의 시저가 신임 서기에게 ‘알파벳을 세 칸씩 밀어서 보내라’며 미소 짓던 순간, 그리고 에니그마 기계를 붙잡고 머리를 싸매던 앨런 튜링의 집중된 눈빛.’ 
역사의 장면에 암호가 없었다면 지금과 전혀 다른 세상이 펼쳐졌을지도 모릅니다. 이젠 전쟁 대신 인터넷과 스마트폰에서, 전 세계를 연결하는 거대한 네트워크 곳곳에서 새로운 형태의 암호가 활약 중이네요.
누가 보면 별거 아닌 숫자들과 문자들의 모임 같지만, 조금만 들여다보면 어마어마한 수학과 논리가 숨어 있는 암호, 이 속에 고대부터 현대, 소설과 영화, 우리의 일상까지 이어지는 거대한 이야기가 있다는 사실이 매력적입니다. 또 그 안에 사람들의 생각과 비밀, 그리고 수학과 논리가 함께 녹아 있다는 사실은 참 놀랍습니다. 오늘의 이야기를 계기로 암호에 대해 더 친숙하게 알아가고 배워가는 기회가 되면 좋겠습니다.