인공지능이 ‘사람 얼굴’ 익히면 무슨 일이 벌어질까?
인공지능이 ‘사람 얼굴’ 익히면 무슨 일이 벌어질까?
  • 김승원 기자
  • 승인 2019.08.30 10:13
  • 댓글 0
이 기사를 공유합니다

-진짜 보다 더 진짜 같은 가짜, '딥페이크'가 만든다!

지난해 4월, 미국을 발칵 뒤집었던 사건이 있었습니다. 한 동영상 공유 사이트에 올라왔던 오바마 전 대통령의 연설 동영상 때문이었는데요. 화면에 등장한 오바마 전 대통령은 단호한 표정으로 “President Trump is a total and complete dipshit. (트럼프 대통령은 진짜 머저리 같은 인간입니다.)”라고 말했습니다.

이 동영상이 공개되자 미국 정치계는 물론 국민들까지 모두 술렁이며 난리가 나기 시작했습니다. 그런데 동영상 제작사에서 더욱 황당한 발표를 했습니다. 이 동영상이 ‘가짜’라고 말입니다.

-이 기사는 <톡톡> 8월호 58p에 4p분량으로 실린 내용입니다. 
-8월호 전체 기사 내용이 궁금하다면 '톡톡' 정기구독을 신청하세요~

놀기만 좋아하는 우리 아이, '책'과 놀게 할 수는 없을까? 재밌는 잡지를 읽었더니 두꺼운 책도 술술 읽혀요! 독서능력이 쑥쑥! 다양한 분야에 걸친 흥미로운 기사로 아이의 시선을 사로잡습니다. 톡톡으로 내 안에 숨은 잠재력을 깨워보세요. 

▼ <톡톡> 정기구독 신청 

잠재력 깨우는 청소년 매거진 월간 '톡톡' 정기구독 신청 클릭!
잠재력 깨우는 청소년 매거진 월간 '톡톡' 정기구독 신청 클릭!

'진짜 같은 가짜 오바마' 등장한 동영상의 정체는?
동영상을 제작한 곳은 ‘버즈피드’라는 인터넷 매체였습니다. 그리고 이 영상 제작에 영화감독 조든 필(Jordan Peele)도 참여했다는 사실이 밝혀졌지요. 필 감독은 “오바마 전 대통령은 영상에서와 같은 말을 한 적이 없다.”며, “내가 이 영상을 만든 이유는 가짜 동영상의 폐해가 얼마나 심각한지 사람들에게 알리기 위해서다.”라고 전했습니다.

너무도 자연스러운 오바마 전 대통령의 모습에 '가짜'라고는 전혀 생각치도 못했던 사람들은 큰 충격에 휩싸였어요. 그리고 곧 이 기술에 관심을 집중하게 됐습니다. 이것이 바로 ‘딥페이크(deep fake)’입니다.

개와 고양이도 구분 못 하던 인공지능이 ‘딥러닝’을 만났다!
딥페이크 기술은 4차 산업혁명 시대의 핵심 기술인 인공지능(AI)의 딥러닝 기술이 발전하면서 탄생했습니다. 인공지능 기술이 발전하기 전에도 컴퓨터는 인간보다 빠르게 어렵고 복잡한 사칙연산을 해낼 수 있었어요. 그런데 의외로 바보 같은 구석이 있었죠. 바로 ‘개와 고양이 구분하기’와 같은 단순한 문제를 풀지 못하는 것입니다.

우리는 어떤 개나 고양이를 보더라도 이 동물이 개인지 고양인지 단숨에 알 수 있습니다. 하지만 컴퓨터는 우리가 입력하는 정보에서 조금만 벗어나더라도 그 동물이 개인지 고양이인지 인식할 수 없었어요.
 

▲ 얼굴을 바꾸는 딥페이크 기술 [출처=theamericangenius.com]

‘딥러닝’을 사람 얼굴에? ‘딥페이크’탄생
하지만 인공지능 기술이 발전하면서 인공지능에 ‘딥러닝’이라는 기술이 생겨났어요. 이것은 컴퓨터가 마치 사람처럼 스스로 학습할 수 있도록 인공 신경망을 기반으로 구축한 ‘기계 학습 기술’이죠.

한 마디로 컴퓨터가 스스로 수백, 수천 개의 개와 고양이 사진을 돌려보면서 그들의 특징을 익히고 인식할 수 있게 된 것입니다. 이런 인공지능 기술이 사람의 얼굴에 적용되자 놀라운 일이 벌어졌어요. 컴퓨터가 원본 얼굴과 바꿀 얼굴의 특징을 학습한 뒤 이 둘을 서로 바꿀 수 있게 된 것이죠.

게다가 바꾼 후 얼굴 형태가 조금이라도 어색하다고 인식되면 인공지능이 스스로 이를 감지해 더 자연스럽게 고쳐나가기 시작했습니다. 그래서 훨씬 더 간단하고 정교하게 영상 속 얼굴을 교체할 수 있는 ‘딥페이크’ 기술이 탄생한 거예요.

“이거 나 아닌데?!”딥페이크 충격에 잠긴 사회
딥페이크 기술은 더욱 현실감 넘치는 영상을 만들어내며 인공지능 산업이나 영화 특수 효과에 사용되고 있습니다. 그러나 이 기술을 악용하는 사람들이 생겨나기 시작했어요.

예를 들어 앞의 예시처럼 누군가를 비방하는 영상에 전혀 엉뚱한 사람의 얼굴을 붙여 시비가 붙기도 하고, 어떤 연예인이 실제로 출연하지 않은 영화에 등장하는 일도 벌어졌습니다. 또 있지도 않은 사건을 꾸며내는 ‘가짜뉴스’가 떠돌기도 했습니다.

딥페이크 조작, 막을 수는 없나요?
악용되는 딥페이크 기술로 사회가 몸살을 앓고 있는 가운데, 최근 희소식이 들려왔습니다. 바로 딥페이크 조작에 맞서 이미지 위변조 여부를 보여주는 새로운 개념의 카메라 기술이 개발된 것이죠.

기존에는 이미지의 위변조를 방지하기 위해 이미지가 생성된 이후 복제방지 표지인 ‘워터마크’를 삽입하거나, ‘디지털 지문’이라고 불리는 해시값을 검증하는 방법이 사용됐습니다. 그러나 이 워터마크까지 지울 수 있는 기술이 생겨나고, 해시값은 사진을 편집할 때마다 달라져 이미지의 위변조를 막는 데 한계가 있었습니다.

그런데 최근 뉴욕대학의 탠던공대 연구진이 개발한 이 기술은 카메라에 적용돼 애초에 이미지를 생성하는 시점에서 포렌식 정보를 내장하는 것이 특징입니다. 한 마디로 이미지가 만들어질 때 그 안에 삭제 불가능한 ‘워터마크’를 삽입하는 것이죠.

게다가 이 워터마크는 사진을 편집할 때도 그대로 유지되고, 이미지의 내용이 변형되면 이를 바로 알아차릴 수 있도록 하는 기능을 하는데 연구진은 이 기술을 적용한 카메라로 촬영한다면 조작 사진 탐지율이 45%에서 90% 이상으로 높아진다고 밝혔습니다.

물론 이 기술이 딥페이크 조작을 100% 막을수는 없지만, 이미지 보안에 있어 매우 창의적인 시도이며 새로운 길을 제시했다는 호평을 받고 있습니다.

가짜가 진짜 행세하는 ‘옹고집 세상’을 막아라!
여러분, ‘옹고집’이라는 이야기 알고 있나요? 가짜 옹고집 때문에 진짜 옹고집이 마을에서도 쫓겨나 온갖 고생을 하게 되는 이야기 말이에요.

이 이야기 같이 딥페이크 기술이 가짜를 마구마구 만들어낸다면 정말 혼란스럽고, 그 누구도 믿을 수 없는 암울한 세상이 오지 않을까요? 기술의 발전은 좋은 일이지만, 그보다도 더 중요한 것이 무엇인지 곰곰이 생각해 봐야 하는 이유입니다.

■ <톡톡> 8월호 해당 페이지 안내 

*사진 설명: 딥페이크로 구현된 오바마 대통령 얼굴 [사진 출처=BuzzFeedVideo]
*에듀진 기사 원문: http://www.edujin.co.kr/news/articleView.html?idxno=31587


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 법인명 : (주)36.5커뮤니케이션즈
  • 경기도 고양시 일산동구 호수로 662 삼성라끄빌 426호
  • 대표전화 : 070-4218-9350
  • 청소년보호책임자 : 신동우
  • 제호 : 에듀진 인터넷 교육신문
  • 등록번호 : 경기 아 51057
  • 등록일 : 2014-11-26
  • 발행일 : 2014-11-26
  • 발행인 : 신동우
  • 편집인 : 신동우
  • 에듀진 인터넷 교육신문 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2019 에듀진 인터넷 교육신문. All rights reserved. mail to webmaster@edujin.co.kr
ND소프트