#암호해독 #에니그마 #봄브 #로렌츠 암호 #콜로서스

▲ 영화  스틸컷. 자신이 만든 암호해독 기계 앞에 서 있는 앨런 튜링(베네딕트 컴버배치) [사진 출처=nytimes.com]
▲ 영화 스틸컷. 자신이 만든 암호해독 기계 앞에 서 있는 앨런 튜링(베네딕트 컴버배치) [사진 출처=nytimes.com]

영화 <이미테이션 게임>(2014)은 제2차 세계대전 당시 암호해독가로 활약했던 영국의 천재 수학자 앨런 튜링의 활약상을 그렸다. 막강한 독일군과 싸울 특별한 전략을 세우며 전쟁을 준비했던 영국. 

그리고 이 과정에서 튜링은 절대로 해독할 수 없을 거라 여겨졌던 암호를 해독했고, 최초의 컴퓨터이자 암호해독 장치 ‘콜로서스’를 개발하게 된다. 수수께끼를 풀 듯 복잡한 암호를 해독하며 초기 컴퓨터를 만들기까지, 그 치열했던 과정을 들여다보자.  

-이 기사는 <나침반> 8월호 '인문 다이제스트'에 9p분량으로 실린 내용의 일부입니다. 
경쟁력 있는 나만의 학생부 만드는 비법이 매달 손안에 들어온다면? 학종 인재로 가는 길잡이 나침반 36.5도와 함께라면 가능합니다. 매달 선명해지는 대입로드를 직접 확인하세요!  

▼ <나침반> 정기구독 신청  

* 대입 성공의 길 알려주는 '나침반36.5' 매거진 정기구독 이벤트 [배너 클릭]

독일, 에니그마로 완전 무장하다 
제2차 세계대전은 서로 상대국의 군사 기밀을 알아내려고 온갖 방법을 동원했다. 특히 독일군은 ‘에니그마(Enigma, 그리스어로 수수께끼)’라는 기계로 만든 암호를 모스 부호로 바꿔 무전으로 메시지를 주고받았다. 

이 암호는 웬만해서는 그 내용을 알기 힘든 당시 최고 기술이었다. 이때 에니그마란, 제1차 세계대전이 끝난 뒤 1918년 독일의 엔지니어 아르투어 세르비우스가 만든 암호 생성 장치다. 

타자기처럼 생긴 에니그마는 문장을 입력하면 기계가 자동으로 암호*로 만든다. 또 장치에 전송 받은 암호문(같은 규칙으로 만들어진 암호문이라면 또는 암호 규칙도 함께 알고 있다면)을 입력하면 원래의 내용으로 해독할 수도 있다. 

키보드와 연결된 에니그마 속 톱니바퀴는 원반이라고 부르는데, 이 원반에는 그 둘레를 따라 26개의 알파벳이 쓰여 있다. 

키보드에서 알파벳을 누르면, 에니그마 안에서 이 톱니바퀴가 돌면서 정해진 암호 규칙에 따라 새로운 알파벳으로 암호화한다. 

이때 설정하는 암호 규칙에 따라 매번 다른 결과를 얻을 수 있다. 알파벳이 26개씩 적힌 톱니바퀴가 3개만 연결돼 있어도, 조합이 가능한 경우의 수가 모두 1만 7576(=26×26×26)가지. 

그런데 에니그마는 이 원반에 전기 회로까지 연결돼 있어 더욱 복잡한(풀기 어려운) 암호문을 완성할 수 있었다. 

▲ 에니그마 플러그보드
▲ 에니그마 플러그보드

'암호'에는 크게 두 가지 의미가 있다. 하나는 사용자의 개인 정보를 감추기 위한 비밀번호(password)이며, 또 다른 하나는 입력한 비밀번호가 정해진 알고리즘을 따라 0과 1의 디지털 언어로 변환된 '컴퓨터만 아는 문자'를 칭하는 암호(cipher)다.

에니그마 암호는 치환 암호의 한 종류다. 치환 암호는 메시지를 이루는 알파벳을 일
정한 규칙에 따라 다른 알파벳으로 치환해 암호문을 완성한다. 

예를 들어 암호 규칙이 ‘알파벳을 모두 두 칸씩 뒤로 미루는 것’이라면 a는 c로, b는 d로 바꿔 쓴다. 만약 이 규칙대로라면 에니그마 기계에 자판으로 ‘math’를 누르면, ‘ocvj ’로 암호문이 완성된다. 

에니그마 암호는 치환 암호의 한 종류인 비즈네르 암호*원리를 확장한 체계를 사용한다. 

비즈네르 암호는 하나의 암호문을 만들 때도 a는 3칸 뒤, b는 2칸 뒤, c는 5칸 뒤처럼 알파벳마다 다른 규칙으로 치환할 수 있다. 게다가 에니그마 기계 내부의 전기 배선을 다르게 설정하면 더 복잡한 암호문도 완성이 가능하다. 

따라서 에니그마 암호는 모든 알파벳에 대응하는 암호 규칙을 일일이 찾아야 그 내용을 알 수 있다. 그래서 일반 치환 암호보다 훨씬 강력하다. 각 알파벳을 바꾸는 암호 규칙을 ‘암호키’라고 하는데, 암호 키를 모르면 암호문을 해독할 수 없다. 

이렇게 든든한 암호 기술을 갖춘 독일군은 적군이 통신 내용을 도청한다고 해도 암호문을 절대 해독할 수 없을 거라고 자신했다. 

실제로 영국군은 매일같이 독일군의 무전을 도청했지만, 수년 동안 그 내용을 쉽게 알아내지 못했다. 그도 그럴 것이 독일군이 에니그마로 만든 암호는 그 경우의 수가 무려 158,962,555,217,826,360,000가지나 됐다. 

에니그마 암호를 해독할 방법은 단 하나. 누군가 이 복잡한 기계의 암호 규칙을 알아내는 것뿐이었다. 하지만 어마어마한 경우의 수가 말하듯, 암호 규칙을 알아내는 일은 몇 사람의 힘만으로 할 수 없는 일이었다. 

게다가 이 암호 규칙은 매일 밤 12시, 24시간에 한 번씩 달라졌다. 만약 누군가 혹은 어떤 조직이 아무리 애를 써서 알아내더라도 24시간 안에 알아내지 못하면 무용지물이 되는 셈이다. 영국군은 백방으로 누구보다 뛰어난 인재를 찾기 시작했다. 

퍼즐과 암호를 사랑한 튜링, 전쟁에 참여하다  

▲16살 때 앨런 튜링
▲16살 때 앨런 튜링

영국군은 독일군의 철옹성 같은 암호를 풀기 위한 비밀 조직을 꾸린다. 영화에서도 영국 해군 소속 데니스턴 중령이 이 암호를 해결할 인재를 찾아 여러 날 면접을 하는 장면이 나온다. 

인재를 물색하던 중 기꺼이 조직을 돕겠다는 한 남자가 데니스턴 중령을 찾아온다. 그 해로 27살인 앨런 튜링이었다. 그는 세계적인 명문 캠브리지대학교 킹스칼리지 출신으로, 23살에 수학 논문을 쓰고, 24살에 교수로 임용된 타고난 천재 수학자였다. 

소문이 자자한 그의 수학 실력에 데니스턴 중령도 경의를 표했다. 그러자 튜링은 “뉴턴은 22살에 이항 정리를 증명했고, 아인슈타인은 26살에 논문 4편으로 세상을 바꿨다”며 그들과 비교하면 기본 수준이라고 자신을 낮췄다.  

사실 튜링이 이 조직에 관심을 둔 이유는 따로 있었다. 바로 ‘암호를 향한 남다른 열정’ 때문이다. 그는 높은 연봉과 함께 당대 최고 수학자인 존 폰 노이만*이 제시한 조교 자리까지 마다하고 영국 정보암호학교에서 일할 만큼 암호를 사랑했다. 

앨런 튜링은 사람보다 계산이 빠른 컴퓨터로, 보통 수학자가 손으로 풀기 어려운 문
제를 해결하려고 했다. 그는 컴퓨터의 원조인 튜링 기계, 튜링 테스트, 에이스라고 부르는 자동연산장치 등을 설계해 ‘컴퓨터과학’ 분야를 열었다.  

튜링 기계는 실제 만들어진 적은 없는 가상 기계이며, 컴퓨터가 모든 정보를 0과 1
만으로 이루어진 디지털 언어(이진법 언어)로 바꿔서 인식할 수 있다는 걸 설명해 내는 최초의 장치다.

실제로 이 원리가 훗날 컴퓨터를 만드는 데 쓰여서, 컴퓨터는 모든 정보를 0과 1로만 인식할 수 있도록 설계됐다.  

이 영화 제목인 <이미테이션 게임>은 튜링이 고안한 ‘튜링 테스트’를 뜻한다. 튜링 테스트는 상대가 컴퓨터인지 사람인지를 모르는 상태에서, 서로 나눈 대화만 보고 상대의 정체를 알아내는 시험이다.  

이 시험으로 특정 상대와 “오늘 날씨 어때?”와 같은 단순한 대화는 물론, 일정 수준 이상의 전문적인 대화도 가능한지 확인할 수 있다. 다시 말해 이 시험은 ‘사람처럼 생각하는 기계’를 만드는 과정에서 꼭 필요한 판별법이다.  

오늘날에는 하루에도 몇 번씩 기계에게 오늘 날씨를 물을 수 있다. 하지만 당시에 ‘사람처럼 말하는 기계’, ‘사람 대신 계산하는 기계’는 상상 속에서만 존재했다.  

이 분야에 관심 있는 전문가도 기계가 사람처럼 ‘생각’을 할 수 있어야만 이런 기계를 완성할 수 있다고 여겼다. 

▲ 영화 '이미테이션 게임' 스틸 컷. 자신이 설계한 암호 해독 장치를 물끄러미 바라보는 앨런 튜링
▲ 영화 '이미테이션 게임' 스틸 컷. 자신이 설계한 암호 해독 장치를 물끄러미 바라보는 앨런 튜링

튜링은 이런 기계를 자신의 능력으로 완성할 수 있다고 믿었다. 그래서 더욱 ‘생각하
는 기계’를 설계하는 일에 집중했다.  

영화에서 튜링은 마치 사람처럼 생각하고 계산해서 답을 주는 기계, ‘크리스토퍼’를 완성한다. 크리스토퍼는 암호문을 모두가 이해할 수 있는 평문으로 자동 해석하는 기계다. 

다시 영화 속 면접 장면으로 돌아가 보자. 데니스턴 중령이 던진 “독일어는 얼마나
잘하느냐”는 질문에, 튜링은 “독일어는 전혀 못한다”고 답했다.  

중령은 ‘독일군의 암호를 푸는 것’이 이 조직의 목표임을 강조하며, 방금 면접 본 독일어 천재(?)도 탈락의 고배를 마셨다며 그를 한심하게 바라봤다. 

그러자 튜링은 “독일어는 몰라도 퍼즐은 정말 잘 푼다”며, “독일군의 암호를 퍼즐이
라고 생각하면 된다”고 엉뚱한 답변을 한다.  

데니스턴 중령은 독일군 암호를 해독해야 하는 일에 독일어를 모르는 튜링은 적합하지 않다고 생각했지만, 당대 최고의 인재를 믿기로 한다. 마침내 영국은 튜링을 포함해 뛰어난 수학자들로 비밀 조직을 꾸린다. 

이 조직은 당시 영국 정부 암호 학교가 있었던 ‘블레츨리 파크’ 안에서 본격적으로 활동을 시작했다. 

기계가 만든 암호는 기계가 가장 잘 풀지 않을까? 

튜링은 기계가 만든 암호는 기계가 풀어야 한다는 신념이 있었다. 그는 비밀 조직에 모인 뛰어난 수학자들과 함께 에니그마 암호를 완벽히 해독할 장치를 설계했다.  

당시 조직에는 어렵게 손에 넣은 에니그마 초기 모델의 암호 규칙을 먼저 알아낸 폴란드 수학자 마리안 아담 레예프스키의 연구를 바탕으로 튜링은 ‘봄브(또는 봄베, The Bombe)*’라는 이름의 새로운 암호 해독 장치를 완성했다. 

봄브는 적국이 에니그마 기계로 만든 암호문을 분석하고 해독하는 암호 해독 장치다. 즉, 봄브는 상대방이 전할 메시지를 암호로 만들 때 설정한 에니그마의 암호 규칙, 기계 내부 원반의 초기 설정값, 에니그마 내부의 전기 배선 연결 상태값 등을 먼저 알아냈다.  

그 다음 에니그마가 메시지를 암호문으로 만드는 원리를 거꾸로 적용해 암호문을 원래 메시지로 해석했다.  

영화 속에서 이 봄브는 앨런 튜링이 학창 시절 친구 이상의 감정을 느꼈던 친구의 이름인 ‘크리스토퍼’라는 애칭을 붙인 기계로 각색됐다. 

튜링이 계속해서 봄브(영화에서는 ‘크리스토퍼’) 개발에 집중하는 사이, 독일군은 여전히 에니그마로 만든 암호를 모스 부호로 주고받으며 하루를 시작했다. 

튜링의 프로젝트를 돕는 이들 중에는 하루 동안 독일군의 무전 내용을 엿듣고 문서로 정리하는일을 하는 사람도 있었다.  

주로 여성 전산 담당자(오늘날 프로그래머)가 맡았으며, 각자 독일군 1명을 전담해 그들의 모스 부호를 가로채 기록했다. 

영화 속 튜링은 독일군이 보내는 모든 메시지에 반드시 포함될 문장을 떠올리기 시작한다. 그는 여성 전산 담당자 헬렌과 대화하던 중, 모든 메시지에 등장한다는 ‘CILLY’라는 단어를 떠올리면서 본격적으로 암호 규칙을 찾아 나선다. 그리고 튜링은독일군이 매일 아침 6시에 주고받는 기상 예보 메시지를 생각해 냈다.  

“오전 6시. 오늘 날씨 맑음. 저녁에 비 예상. 하일 히틀러.” 

튜링은 이 문장에서 ‘오전 6시(6AM)’ ‘날씨(weather)’ 나치 경례인 ‘하일 히틀러
(Heil Hitler, 히틀러 만세)’와 같이 매일 반복되는 단어를 떠올렸다. 

이때 암호 해독을 돕는 어떤 단어, 즉 힌트를 ‘크립’이라고부르는데, 튜링이 곧바로 동료들과 함께 설계 중인 기계, 크리스토퍼에다 반복 단어 중 ‘날씨(weather)’와 ‘하일 히틀러(Heil Hitler)’를 크립으로 설정했다. 

기본 설정값을 입력하면 크리스토퍼가 암호 해독을 위해 자동으로 돌면서 26개의 알파벳을 짝지어 보고, 이를 해석했을 때 말이 되는 경우를 찾아내는 원리다. 

영화에서는 그날 아침 무전에서 들었던 ‘오전 6시’에 해당하는 암호문을 크리스토퍼에 입력한다. 

크리스토퍼가 얼마 동안 여러 개의 톱니바퀴를 돌리며 계산하더니, 마침내 에니그마 암호를 풀 수 있는 암호 규칙을 찾아냈다. 

튜링이 크리스토퍼로 알아낸 암호 규칙을 에니그마 기계에 설정하고, 결과를 기다렸다. 그리고 마침내 독일군의 공격 위치 좌푯값을 얻게 된다. 마침내 튜링은 완벽해 보였던 암호를 해독하는 장치를 개발(1939년)해 낸 것이다. 

[사진 출처=screendaily.com]
[사진 출처=screendaily.com]

“ 우리는 독일군과 싸우지 않았다. 우리는 시간과 싸웠다.” 

봄브의 탄생으로 영국군은 독일군이 주고받는 암호를 단 몇 시간 만에 해독할 수 있게 됐다. 전쟁 분위기는 완전히 연합군 쪽으로 기울었다. 하지만 얼마 시간이 지나지 않아 독일군이 암호 해독 사실을 눈치채면서, 에니그마 암호보다 풀기 어려운 로렌츠 암호(Lorenzcipher)*를 사용했다. 로렌츠 암호로 바꾸자, 봄브는 더 이상 암호 해독을 할 수 없게 된다. 

▲ 로렌츠 암호 생성기
▲ 로렌츠 암호 생성기

이에 튜링과 비밀 조직원들은 로렌츠 암호를 풀어 줄 새로운 암호 해독 장치를 개발한다. 이때 만든 새 암호 해독 장치가 바로 최초의 컴퓨터로 불리는 ‘콜로서스’다.

콜로서스는 암호문을 구멍이 뚫린 종이테이프 형태로 옮겨서 기계에 입력하면, 여기에 빛을 쬐어 순식간에 입력된 정보를 받아들인다. 그러면 콜로서스에 입력된 암호문(각각의 알파벳)과 미리 저장해 둔 방대한 암호 자료를 비교해 암호 해독을 시작한다. 이때 자료 분석 처리 속도는 초당 5000단어까지 비교가 가능했다.

마침내 튜링과 조직원들은 로렌츠 암호를 해독해 내는 콜로서스를 성공적으로 개발하고, 암호 해독에 속도를 높여 독일군의 전략을 분석한다.

그 덕분에 전쟁을 더 빨리 끝낼 수 있었고, 매분 3명이 죽는 사상 최악의 전쟁에서 1400만 명의 목숨을 구했다.

이렇게 어떤 정보를 처리하기 위해 수학자들이 설계한 논리를 따라 프로그램을 만
들어 기계에 입력하고, 또 기계가 이것을 계산할 수 있었다는 점에서 콜로서스는 최초 컴퓨터가 맞다.

하지만 당시 군사 기밀이었던 이 내용은 정부의 비밀 정책에 따라 30년 동안이나 숨겨야 했다. 심지어 설계도까지 모두 없애고, 조직원들에게 비밀 유지서약을 받았다.

콜로서스의 존재는 1975년이 돼서야 영국 정부의 사진 공개로 세상에 알려졌다. 이런 이유로 사람들은 콜로서스보다 2년이나 늦게 개발된 미국의 에니악이나 ABC 컴퓨터를 최초 컴퓨터로 여겼다.

오늘날에는 4차 산업혁명과 함께 ‘인공지능’ 관련 연구가 빠른 속도로 발전하면서 다양한 기술이 많이 소개됐다.

인공지능과 관련된 제품도 쏟아져 나왔다. 하지만 튜링이 살던 시대에는 컴퓨터를 커다란 계산기쯤으로 여겼고, 기계가 사람처럼 생각해서 판단할 수 있다는 상상도 어려운 시대였다.  

영화 후반부에 다다라 튜링은 “기계가 생각 할 수 있는가”라는 질문에 “(생각은 할 수 있지만) 사람과는 다른 논리 구조로 생각한다”고 답한다. 영화에서나 현실에서나 그는 분명 시대를 앞선 사람이었던 것만큼은 확실하다. 

*자료 제공=팜파스 출판사│염지현

*에듀진 기사 URL: http://www.edujin.co.kr/news/articleView.html?idxno=34006
기사 이동 시 본 기사 URL을 반드시 기재해 주시기 바랍니다. 

■ <나침반> 8월호 해당 페이지 안내 

 

저작권자 © 에듀진 인터넷 교육신문 무단전재 및 재배포 금지