딥페이크 방지앱 고안...대학생 개발진 인터뷰
인물 사진에 필터 적용...딥페이크 시 왜곡 효과
"AI 기술 대한 무거운 책임감 필요...모두 안심 못해"
[뉴스포스트=이별님 기자] 딥페이크(Deepfake) 기술을 악용한 온라인 성범죄 문제가 연일 화두에 오르고 있다. 8일 서울경찰청은 유명 연예인들의 불법 합성 성착취물을 제작·유포한 20대 남성과 30대 중국 국적의 남성을 검거했다. 경찰이 지난 8월 28일부터 태스크포스(TF) 꾸려 딥페이크 범죄를 집중 수사한 결과 용의자들이 줄줄이 구속되고 있다.
딥페이크 기술은 사진으로도 동영상 합성이 가능해 불법 성착취물 제작 등 악용이 가능하다. 연예인 등 유명인들은 물론 불특정 다수의 시민들과 미성년자들까지 딥페이크 성범죄의 표적이 되면서 문제의 심각성은 더욱 커지고 있다. 온라인상에서는 수년째 문제제기가 이뤄졌지만, 올해 8월 말에서야 수면 위로 올라왔다. 정부와 여야, 지방자치단체 등 사회 전반이 딥페이크 성범죄 근절을 위한 각종 대책들을 연신 쏟아내고 있다.
민간에서도 딥페이크 성범죄 근절을 위한 움직임이 포착되고 있다. 딥페이크 방지 앱인 '딥실드(DeepShield)'가 대표적이다. 딥실드는 대학생 개발자들의 손을 거쳐 탄생했다. 고려대학교 물리학과에 재학 중인 최재원 씨가 기획과 앱 개발을, 최씨와 같은 학과인 왕채은 씨가 필터 개발을 맡았다. 영남대학교 로봇공학과에 재학 중인 박준영 씨도 앱 개발에 함께했다. <뉴스포스트>는 자세한 내용을 알아보기 위해 지난달 30일 이들과 서면 인터뷰를 진행했다.
딥페이크 방지 원리는?
딥실드의 원리는 복잡하지 않다. 인물 사진에 딥실드가 제공한 필터를 씌우면, 딥페이크 기술 적용 시 사진 속 얼굴이 왜곡돼 나타나게 된다. 딥페이크 기술 악용을 원천적으로 차단해 온라인 성범죄를 예방하는 방식이다. 영리적 목적으로 만들어진 서비스가 아니라서 세 개발자가 서버비를 포함한 비용을 충당하고 있다.
총기획자인 최씨는 "딥실드는 딥페이크 모델이 SNS에 공유된 사진을 무단으로 학습·악용하는 것을 막기 위해 사진에 딥페이크 모델을 방해하는 필터를 제공하는 서비스"라며 "필터는 크게 2가지 기술이 적용돼 원본 이미지를 왜곡시킨다. 필터의 강도가 세질수록 딥페이크 모델을 방해하는 강도도 세지지만, 기술의 성격 상 원본 이미지 왜곡도 심해진다"고 설명했다.
딥실드 앱에서 필터를 입히면 원본 사진의 화질이 다소 흐려진다. 필터를 강하게 적용할수록 원본 사진의 화질은 더욱 흐려진다. 개발진들은 사진 왜곡 문제와 관련한 숙제를 풀고 있다. 필터를 개발한 왕씨는 "적용 기술인 워터마크를 더 자연스럽게 처리하기 위해 해당 모듈을 추가적으로 연구하고 있다"며 "지속적인 업데이트를 통해 발전시킬 것"이라고 밝혔다.
공동 개발자인 박씨는 "지금의 필터 강도는 일부러 더 강하게 보이도록 설정한 부분도 있다"면서도 "더 자연스러우면서도 강력한 효과를 낼 수 있도록 개선할 예정이다. 다음 업데이트에서는 선명한 화질을 원하는 사용자들을 위해 더 낮은 강도와 더 선명한 사진을 제공하도록 할 것"이라고 예고했다.
대학가 덮친 딥페이크 공포
현재 재학 중인 세 사람은 대학가의 여론을 잘 알고 있었다. 대학에서 느낀 딥페이크 성범죄에 대한 공포는 이들이 딥실드를 개발하는 주요한 계기가 됐다. 박씨는 "최근 본인의 사진도 딥페이크 기술에 악용될까 봐 두려워하는 사람들도 많아졌다. SNS에 게시된 사진이나 프로필을 되려 내리는 모습도 봤다"며 "(최)재원이와 이번 일에 대해 이야기를 하다가 필터를 개발해 보자는 제안을 받고 참여하게 됐다"고 말했다.
최씨는 "딥페이크 악용에 대한 논란이 빠르게 번지는 것을 뉴스를 통해 지켜봤다. 제 주변인들도 딥페이크 악용에 대한 두려움으로 SNS 사진을 삭제하거나, 게시하기를 망설이더라"며 "그 모습을 보고 (딥페이크 기술 악용이) 현재 발생하고 있는 심각한 문제라는 것이 피부에 와닿았다"고 증언했다.
그는 "법으로 규제하는 방식은 효과적일 수 있지만 실제로 적용되기엔 다소 시간이 걸릴 것이라고 생각을 했고, 텔레그램 사용을 막는 것 또한 근본적인 해결책이 아니라고 생각했다"며 "일반인들이 지금 당장 딥페이크에 대응할 수 있는 방법을 생각해 보다가 얼굴에 필터를 씌워 사용자의 얼굴을 잘 학습하지 못하도록 방해하는 서비스를 고안해냈다"고 딥실드 개발 이유를 설명했다.
개발자 중 유일한 여성인 왕씨는 딥페이크 악용 문제를 과거에도 인지했었다. 그는 "AI를 활용한 보안 분야에 대해 공부하다 'Adversarial noise(적대적 노이즈)'라는 개념을 접했다. AI를 공격하는 기술인데, 이걸로 사람들을 보호하는 데 사용하고 싶었다는 생각을 해왔다"며 "이미지 인식으로 인간에게 해를 주는 대표적 기술이 딥페이크였고, 이슈가 되기 전에도 해당 기술을 악용한 범죄 심각성을 인지했기에 개발에 참여하게 됐다"고 전했다.
왕씨는 "딥페이크 기술 악용 범죄는 추적이 어렵고 누구나 사용할 수 있다는 점이 가장 큰 문제라고 생각한다. 개인의 윤리의식 외엔 딱히 제지하는 수단이 없기도 하다"며 "한때 대학 내 커뮤니티 글을 모두 차지했을 정도로 심각성에 대해 모두들 인지하고 있던 것 같지만, 성별갈등으로 번져 그 피로감 때문에 토론이 너무 조기에 종료된 것 같다는 아쉽다"고 덧붙였다.
딥페이크 악용과 AI의 미래
재학생인 이들은 모두 학업과 앱 개발을 동시에 진행했다. 왕씨는 필터 개발 외에도 다른 프로젝트까지 맡으면서 시간 분배에 어려움을 겪었다. 과거에도 앱 개발 경험이 있다는 최씨는 이번에도 큰 장애가 없을 거라고 생각했다. 하지만 딥페이크 성범죄 이슈가 커지면서 개발 속도를 늦출 수 없었다. 그는 "늦은 시간까지 개발을 진행하다 보니 체력적으로 힘들었다"고 전했다.
영남대학교에서 로봇공학을 전공하는 박씨에게는 딥페이크나 필터 기술이 익숙지 않은 분야였다. 이 때문에 앱 개발과 동시에 관련 공부를 병행해야 했다. 개발자들이 거주하는 물리적 거리 역시 좁히기 어려웠다. 그는 "모든 개발이 비대면으로 진행됐는데, 각자 시간을 맞추기 어려웠다"면서도 "각자 해야 할 일을 잘해줘 잘 진행된 거 같다"고 말했다.
딥실드를 개발은세 명의 대학생 개발자들에게 또 다른 숙제를 남겼다. 미래의 과학기술을 이끌어 갈 이들에게 딥페이크 성범죄 사태는 인간이 AI 등 기술 변화와 발전을 어떻게 다뤄야 하는지 깊은 고민거리를 안겼다. 평소에도 학업과 사회 문제 등에 대해 자주 이야기를 나눈다는 이들 세 사람은 AI와 같은 과학기술을 통해 사람을 이롭게 하고, 사회 문제를 해결하고 싶다는 소망을 내비쳤다.
"기술의 발전이 중요한 만큼 그 기술이 어떻게 적용되고 활용되는지도 중요하다. 최근 AI 기술이 급속도로 발전하고 오픈 소스로 공개되면서 많은 사람들이 자신의 사업이나 관심 분야에 AI를 적용하고 있다. 기술에 대한 접근성이 낮아진 만큼 다양한 기회가 생기면서 동시에 기술의 악용 가능성도 높아지고 있다. 개발자들 또한 이러한 문제를 인지하고 책임감 있게 행동하려고 노력하지만, 악용을 완전히 막기는 어려운 것 같다. 그래서 법적, 사회적, 기술적 측면에서 더 많은 고민과 논의가 이루어져야 한다고 본다" -최재원 씨-
"'큰 힘에는 큰 책임이 따른다'라는 말이 있듯이 딥페이크 기술 자체는 강력하고 뛰어난 기술이지만, 이 기술을 사용함에 있어서는 무거운 책임감을 가져야 한다고 생각한다. 책임 못질 행동은 하지 말아야 한다" -박준영 씨-
"기술을 악용하는 범죄는 그 기술이 무엇이든 간에 완전히 막을 수 있는 방법은 없고, 개인의 윤리 의식에 달려있다고 생각한다. 기술적인 노력과 정책적인 노력 역시 필요하지만, 어떠한 일을 실행하기 이전에 그 일의 여파와 도덕적인지 여부를 가늠하는 개인적인 노력이 가장 필요하다. 모두가 안심하고 살 수 있는 세상이 되면 좋겠다" -왕채은 씨-