"5초면 내 목소리 복제하고, 동료 얼굴로 화상회의 가능"
"안티딥보이스로 위변조한 목소리 잡아내 보이스피싱 예방"
"딥페이크 영상 탐지도 가능…보안 우려 없는 온디바이스 AI로 구현"
"익시오 유료화 계획 아직 없어…하반기 양자암호기술 적용"
[뉴스포스트=최종원 기자] "인공지능(AI) 기술이 발전하면서 단 5초면 자신의 목소리와 똑같은 AI 기계음을 만들 수 있습니다. LG유플러스가 세계 최초로 상용화한 '안티딥보이스' 서비스에선 고객이 통화할 때 보이스피싱 위협을 5초 이내에 탑재해 안내할 수 있습니다. 고도화된 AI 기술을 통해 개개인의 감정까지 케어할 수 있는 AI 안심 에이전트로 진화하겠습니다."
이석영 LG유플러스 모바일에이전트드라이브 담당은 26일 오전 LG서울역빌딩에서 열린 LG유플러스 보안 기술 설명회에서 이같이 밝혔다. 이날 LG유플러스는 온디바이스AI 기술을 활용해 세계 최초로 상용화한 '안티딥보이스'를 주로 설명했다.
안티딥보이스는 AI가 위변조한 목소리를 판별하는 기술로, 위조한 목소리로 지인을 사칭하는 등 AI를 활용한 보이스피싱 범죄를 예방하기 위해 개발됐다. 또 최근 고객 유심정보 해킹 사태 등 보안 우려가 커지는 상황인 만큼, 서버를 통하지 않고 기기에서 자체 서비스가 가능한 온디바이스 AI 방식으로 구현됐다.
위조된 목소리 활용한 보이스피싱 피해 예방
이 담당은 "올해 보이스피싱으로 피해액 1조원이 예상되는 등 피해가 늘어나는 상황에서 자사는 보이스피싱 탐지를 통해 약 2000건의 통화를 차단했다"며 "통화로 이어졌다면 월간 800억의 피해가 예상되며, 자사는 사회적 책임과 진정성을 가지고 보이스피싱 범죄를 대할 것"이라고 밝혔다.
안티딥보이스에 대한 설명도 진행했다. 이 담당은 "AI를 통한 기계음은 음성 합성 시 비정상적인 고주파가 탐지되는 등 사람 목소리와 다른 면이 있다"며 "AI 기계음을 잡아낼 뿐만 아니라, 패턴을 분석해 위험 번호를 예측하고 스팸/보이스피싱 번호를 AI가 대신 받아 노출 빈도를 줄이는 서비스도 하반기에 준비 중"이라고 전했다.
LG유플러스는 8월 스팸 전화를 시작으로 서비스를 적용하며, 악성 QR을 촬영하면 위험 URL로 넘어가는 등 금전 피해를 야기하는 스미싱 또한 차단할 계획이다. AI가 스토킹, 학교폭력 등 원치 않는 연락을 차단하는 방식도 추진하고 있다.
이 담당은 또 "범죄자 목소리를 AI로 판별하는 시스템을 국립과학수사연구원과 개발 중이고, 은행연합회와 보이스피싱 계좌 송금 및 이체가 이뤄지지 않도록 공동 모니터링 체계를 구축 중"이라고 밝혔다.
딥페이크로 합성된 얼굴까지 AI가 파악
LG유플러스는 AI가 합성한 얼굴까지 분석하는 '안티딥페이크' 서비스의 상용화도 계획하고 있다. 이 기술은 영상이나 이미지를 분석해, 합성된 영상에 남아있는 비자연적인 흔적을 탐지해 합성 여부를 판별한다. 픽셀 단위의 질감이나 패턴의 불균형, 프레임 간 일관성이 떨어지는 현상 등을 분석해 합성 여부를 탐지하는 것이 핵심이다.
한영섭 LG유플러스 AI테크랩장(전무)은 이날 발표에서 "홍콩에서 딥페이크로 회사 CFO(최고재무책임자)와 실제 직원을 가장한 영상회의를 통해 약 340억원을 불법 계좌로 송금한 사례가 존재한다"며 "딥페이크가 단순 장난·합성을 넘어 큰 사회적 위협으로 다가오고 있다"고 언급했다.
한 전무는 "자사는 사진이나 영상을 픽셀 단위로 분석해 딥페이크를 잡아내는 방식을 채택했다"며 "딥페이크 영상은 미세한 왜곡이나 노이즈가 발생할 수 밖에 없어 AI 엔진을 학습시켜 이를 판별하도록 조치 가능하다"고 설명했다. 또 "실시간 화상통화의 경우 조명, 화각, 압축 여부, 프레임의 변화 등 요소도 고려해야 하는 만큼 이같은 환경에서 탐지할 수 있는 구조로 설계했다"고 덧붙였다.
이 기술도 서버에 고객 데이터를 남기지 않는 온디바이스 AI 방식으로 경량화한다. 한 전무는 "AI가 딥페이크 영상임을 탐지하면 알람 등 사용자에게 경고를 보내고 유해한 통화와 이미지를 차단할 수 있다"며 "이같은 기술은 자사 AI 통화 에이전트 서비스 '익시오'에서 활용되며 향후에도 기술 협력 통해 고객을 보호하는 믿을 수 있는 통신사가 되도록 노력하겠다"고 전했다.
"sLLM 수익화 고려 중…안티딥페이크 상용화, 경량화 이후 가능"
LG유플러스가 지난해 11월 출시한 익시오는 ▲보이는 전화 ▲전화 대신 받기 ▲실시간 보이스피싱 ▲통화 녹음 및 요약 등 기능을 온디바이스 환경에서 제공하는 AI 기반 서비스로 실시간 보이스피싱 탐지 기능을 차별점으로 내세웠다.
현재는 무료지만, 안티딥보이스·딥페이크 등 서비스가 상용화되면 유료화될 가능성이 있다. LG유플러스는 다만 현재 유료화를 고려하고 있지 않다는 입장이다. 이준호 LG유플러스 상무는 이날 "통신사로서 보안은 기본적으로 해야 될 의무라 생각해서 기본 기능에 대해 유료화 계획은 없다"며 "고객이 유플러스를 선택할 수 있게 만드는 요소로 자리매김할 생각이고 먼저 수익화할 생각은 없다"고 전했다.
이 상무는 다만 "자사는 익시젠 등 통신 특화 sLLM을 많이 갖고 있는데 추후 좋은 sLLM은 유료화를 검토할 수 있다"고 열어놨다. 지난해 출시한 생성형 AI '익시젠'은 LG AI연구원의 '엑사원'을 기반으로 자사 통신·플랫폼 데이터를 학습시킨 sLLM이다. sLLM은 기업 대상의 LLM으로 고객사 혹은 자사 요구에 맞는 업무처리를 효율적으로 처리해 생산성을 높일 수 있다.
안티딥페이크의 상용화 시점에 대해 이진혁 LG유플러스 상무는 "딥페이크는 온디바이스 AI를 위한 경량화 작업 중인데 이게 성공하면 상용화 시점이 잡힐 것 같다"고 답했다. 한 전무는 "온디바이스 AI 구현은 모델 크기를 수십 메가 수준으로 떨어뜨리지 않으면 단말에서 동작이 어려운데 동일 성능을 유지하면서 수십메가 수준으로 경량화하고 있다"고 설명했다
이석영 담당도 "온디바이스 AI에서 서비스를 구현하려면 성능이 서버보단 떨어질 수 밖에 없다"며 "한계가 존재하지만 자사는 고객 데이터를 서버에서 직접 들여다보는 감시 문제를 용납할 수 없어 한계에도 온디바이스 AI를 계속 캐치업하고 있다"고 강조했다. 익시오를 통한 감청 가능성에 대한 질문에는 통화 녹음을 끌 수 있고, 디바이스에서 녹음이 이뤄져 감청이 어렵다고 말했다.
하반기에는 양자보안 기술도 적용한다는 방침이다. 이진혁 상무는 "데이터를 저장하는 단말(기기)에 악성앱이 탐지가 됐을 때도 보호를 해야겠다는 생각이 있다"며 "양자암호기술을 통해 절대 복제할 수 없는 값으로 키를 생성하고 서버에서 탈취할 수 없는 곳에 이를 저장할 계획"이라고 밝혔다.
LG유플러스는 통화 중 위험 알림을 넘어 디지털 스토킹, 언어 폭력, 허위 정보 유포 등 현대 사회의 다양한 통신 기반 위협 요소를 탐지·차단하는 기능을 탑재한다는 계획이다. 전병기 LG유플러스 AX기술그룹장(전무)은 이날 "차별화된 보안 기술을 통해 '가장 안전한 AI를 보유한, 보안에 가장 진심인 통신사'로 자리매김 할 것"이라고 강조했다.