뉴스산업·경제·IT
딥브레인AI, 딥페이크 탐지 솔루션 고도화…“조작된 영상, 이미지, 음성까지 범위 확대”
남덕산 기자  |  san@cdnews.co.kr
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2023.08.03  09:40:02
트위터 페이스북 미투데이 싸이월드 공감 네이버 구글 msn
 
 
 

[통신일보 = 남덕산 기자]   생성형 인공지능(AI) 전문 기업 딥브레인AI는 딥페이크 탐지 솔루션을 고도화했다고 3일 밝혔다. 조작된 영상 검출은 물론 이미지, 음성까지 탐지 범위를 확대했다. 

딥페이크(Deepfake)란 AI를 활용해 특정인의 얼굴과 목소리, 행동까지 그대로 재현한 위조 콘텐츠를 일컫는다. 스마트폰 앱으로 딥페이크 영상을 쉽게 만들 수 있는 등 기술 장벽이 낮아지며 사회에 많은 혼란을 야기하고 있다. 다가오는 미국 대선을 앞두고 가짜 뉴스, 불법 음란물 등 범죄에 악용되는 사례가 지속적으로 늘고 있는 상황이다. 

딥브레인AI는 딥러닝 기반 영상·음성 합성과 자연어 처리 기술을 융합한 AI 휴먼 솔루션(AI Human)과 글로벌 수준의 생성형 AI 아바타 제작 솔루션 등 우수한 AI 기술을 바탕으로 완성도 높은 딥페이크 탐지 솔루션을 선보였다. 세부적으로는 ▲종합 탐지 모델 ▲특정 인물 탐지 모델 ▲음성 탐지 모델로 구성된다. 

먼저, ‘종합 탐지 모델’은 합성곱 신경망(CNN, Convolution Neural Network)과 구글의 자연어 처리 모델인 트랜스포머(Transformer)를 기반으로 설계됐다. 세상에 존재하지 않는 가상 인간의 얼굴을 제작하는 페이스 제너레이션(Face Generation)과 원하는 얼굴로 교체하는 페이스 스왑(Face Swap), 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지한다. 

또한, 특정 인물의 영상 데이터로 얼굴 특징, 체형, 행동 패턴 등을 분석해 딥러닝 학습을 진행한 후 특정 인물에 대한 진위 여부를 판별하는 ‘특정 인물 탐지 모델’과 TTS(Text To Speech)나 보코더(Vocoder) 등 음성 합성 여부를 탐지하는 ‘음성 탐지 모델’을 제공한다. 특히, 음성 탐지 모델은 음성의 주파수와 시간 등을 각각 고려하여 분석 후 모델 학습을 진행하는 음성 판별 방식을 사용하며, 국내 통신사와 협력해 범죄 수법이 날로 진화하고 있는 보이스피싱 예방에 활용할 계획이다. 

딥페이크 탐지 솔루션은 한국어, 영어, 중국어, 일본어를 우선 지원한다. 현재 국내 일부 관공서에서 활용되고 있으며, 은행, 증권, 보험 등 금융권과 통신사를 비롯해 선거관리위원회, 방송통신위원회 등 국내외 다양한 산업군에서도 활용할 수 있도록 맞춤형 지원을 적극 확대할 예정이다. 나아가 일반 소비자도 쉽고 간편하게 사용 가능한 딥페이크 SaaS(서비스형 소프트웨어) 서비스도 연내 자사 홈페이지에 공개하기 위해 준비 중이다. 

이 밖에도 딥브레인AI는 과학기술정보통신부가 추진하는 인공지능 학습용 데이터 구축 사업 중 ‘딥페이크 변조 영상 AI 데이터’ 분야의 수행 기업으로 선정돼 변조 영상 탐지 기술 개발용 AI 데이터 구축에 참여했으며, 서울대학교와 함께 딥페이크 등을 탐지하는 AI 경진대회를 개최한 바 있다. 2021년에 열린 국제 컴퓨터 비전 학회(ICCV)에서는 세계 최대 규모 한국인 딥페이크 탐지 데이터셋 'KoDF(Korean DeepFake Detection Dataset)'를 다룬 연구 논문이 채택되는 등 딥페이크 악용 방지를 위한 노력을 지속하고 있다. 

장세영 딥브레인AI 대표는 "인공지능 기술이 고도화되면서 이를 악용해 범죄를 저지르는 사례가 전 세계적으로 증가하고 있어 대비가 필요한 상황”이라며, “딥브레인AI는 딥페이크 콘텐츠 탐지 솔루션을 관공서와 기업, 개인 등 맞춤 지원해 AI 기술의 악용으로 인한 피해 예방에 앞장설 것”이라고 말했다.

[통신일보 = 남덕산 기자 / san@cdnews.co.kr]

     관련기사
· 어노브, 손상모 케어 위한 ‘워터 에센스 미스트’ 출시
· 프레시지, 강릉 백년가게 ‘동화가든’과 함께 푸드뱅크에 5억 원 기부
· 인섹시큐리티, 웹 취약점 진단 솔루션 HCL 앱스캔 세미나 개최
· 호텔스컴바인, 신라면세점과 캐릭터 콜라보 선봬
· 워프코퍼레이션, 방한 맨시티 선수들과 숏폼 콘텐츠 협업
남덕산 기자의 다른기사 보기  
기사제보 및 보도자료[news@cdnews.co.kr]
저작권자 ⓒ통신일보 | 무단전재 및 재배포금지 | 저작권 문의

알면 돈되는 새 제도
통신일보 2030뉴스 사이트맵
  • 쇼핑
    IT·생활가전
    웰빙·뷰티
    생활·사무용품
통신제국 | 회사소개기사제보제휴문의이용약관개인정보취급방침청소년보호정책이메일무단수집거부
제호 통신일보 · 발행인-편집인 이영림 · 등록번호 서울-아00840 · 등록-발행일 2009년 4월 17일 · 본사 서울특별시 서대문구 북아현로 25길 5, 501호
취재본부 경기도 과천시 별양상가1로 18, 과천오피스텔 916호 · 대표전화 02-3447-6100 · 사업자:123-22-49273 · 청소년보호책임자 남일희
통신일보의 모든 기사와 컨텐츠는 저작권법의 보호를 받습니다. 무단 전제, 복사, 배포 등을 금지합니다.
통신제국 Copyright All rights reserved.