경찰, 딥페이크 탐지 소프트웨어 개발…선거 여론조작 소탕

파이낸셜뉴스

2024.03.05 06:00:13

조회 1809 추천 0 댓글 9

/사진=뉴시스

[파이낸셜뉴스]경찰청 국가수사본부는 딥페이크 탐지 소프트웨어를 개발해 딥페이크를 이용한 범죄 단속을 위해 본격적으로 활용한다.

5일 경찰에 따르면 인공지능(AI) 기술의 급격한 발달과 함께 딥페이크 이용 범죄의 위협이 증대되고 있으며, 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 심화되고 있다.

이에 개정 공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지했으며, 경찰 또한 해당 범죄에 대한 엄정 대응 기조를 천명한 바 있다.

해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 통상 5분~10분 내에 분석 작업을 완료해 가짜 영상인지 진짜 영상인지 판별한다. 또한, 판별이 완료됨과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있도록 한다.

기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었으며, 따라서 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다. 이번에 개발한 ‘딥페이크 탐지 소프트웨어’는 인물 5400명의 데이터 520만점(한국인 데이터 100만점 및 아시아 계열 인종 데이터 13만점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이루어졌으며, 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다.

해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달하며, 탐지율이 100%가 아닌 점을 감안해 증거자료보다는 수사 방향을 설정하는 자료로 활용한다. 아울러 딥페이크와 관련한 새로운 기술이 끊임없이 개발.전파되고 있는 만큼, 딥페이크 영상 선거범죄에 대해서는 학계, 기업 등 인공지능(AI) 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 해 해당 소프트웨어의 오탐지 가능성도 최소화할 예정이다.

경찰청은 "딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해나갈 수 있을 것으로 기대하고 있다"며 "향후 더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 밝혔다.

beruf@fnnews.com 이진혁 기자

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지

▶ "남편과 텐트서 자는데 남성 7명이 들어오더니..." 끔찍 ▶ 배우 남친에 잠수 이별 당한 女 "관계 엄청했고, 신체 사진도.."▶ 아파트에서 발견된 남녀 시신, 둘 관계 알고보니..▶ 티아라 출신 아름 "전 남편이 대소변을..." 충격 주장 ▶ '전국노래자랑' 김신영에 돌연 하차 통보, 후임은...

고정닉 0

원본 첨부파일 1

202403041936058965_l.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	술 마시면 실수가 많을 것 같은 스타는?	운영자	25/04/14	-	-
18310	방첩사 과장 "국수본에 이재명·한동훈 등 체포 대상 말해" 법정 증언	파이낸셜뉴스	19:10	2	0
18309	돌곶이역 땅꺼짐 신고…싱크홀 아닌 '깊이5㎝ 도로파임'	파이낸셜뉴스	19:00	2	0
18308	'한덕수 재판관 지명' 효력정지…헌재, 가처분 전원일치 인용	파이낸셜뉴스	18:48	5	0
18307	벽산그룹 3세 집유기간에 향정신성 약물 복용·운전했다가 재판행	파이낸셜뉴스	18:43	4	0
18306	서울회생법원, 5월부터 사전 자율구조조정 도입..."K구조조정 새 모	파이낸셜뉴스	18:37	3	0
18305	뉴진스, 독자활동 금지 유지…法 "이의신청 기각"	파이낸셜뉴스	18:08	6	0
18304	[속보]헌재, '한덕수 재판관 지명' 가처분 인용	파이낸셜뉴스	18:06	7	0
18303	[현장] 세월호 참사 11주기, 전국 추모행렬…"더 관심 가져야"	파이낸셜뉴스	17:14	10	0
18302	[속보]법원, 뉴진스 이의신청 기각...'독자활동 금지' 유지	파이낸셜뉴스	17:11	11	0
18301	"범죄 피해로 퇴사해도 실업급여 받을 수 있어"...대검 적극 지원 [3]	파이낸셜뉴스	17:02	235	0
18300	수면 위로 부상하는 수사권 조정..."신중한 접근"	파이낸셜뉴스	16:54	10	0
18299	'韓 재판관 지명 가처분' 이번 주 결론 나올 듯…법조계 전망은	파이낸셜뉴스	15:54	12	0
18298	검찰, 신한자산신탁 등 압수수색..."직원 수억대 금품수수 혐의"	파이낸셜뉴스	15:34	11	0
18297	'삼성전자 반도체 기술 유출' 공범 1명 구속…"증거 인멸·도주 우려	파이낸셜뉴스	14:49	47	0
18296	경찰, '페달 오조작 방지 장치' 무상 지원…"고령 운전자 사고 예방	파이낸셜뉴스	11:45	26	0
18295	경찰, '尹 체포저지' 대통령실·한남동 공관촌 압수수색	파이낸셜뉴스	11:25	26	0
18294	"마약류 확산 막아라"...6월까지 범정부 특별단속 실시	파이낸셜뉴스	11:22	38	0
18293	쯔양, 경찰출석했다가 조사 거부..."피해자 보호 의지 없어" [4]	파이낸셜뉴스	11:10	396	2
18292	[속보]경찰, 대통령실·한남동 공관촌 압수수색	파이낸셜뉴스	10:17	23	0
18291	'가세연 고소' 유튜버 쯔양 경찰 출석..."수십회 괴롭힘 지속"	파이낸셜뉴스	09:45	25	0
18290	'국회 난입 방조' 조원진 우리공화당 대표, 벌금 500만원 확정	파이낸셜뉴스	09:35	24	0
18289	'부축빼기 기승' 야간 전동차 순찰 강화…절도범죄 줄였다	파이낸셜뉴스	06:00	35	0
18288	'억대 금품수수 혐의' 전 이베스트투자증권 본부장 구속	파이낸셜뉴스	04.15	54	0
18287	[속보]'억대 금품수수 혐의' 이베스트투자증권 전 본부장 구속	파이낸셜뉴스	04.15	55	0
18286	망치로 유리창 부수고 주민 위협한 40대 여성, 구속송치	파이낸셜뉴스	04.15	57	0
18285	'수표 쪼개기' 시도한 보이스피싱범, 은행원에 '덜미'	파이낸셜뉴스	04.15	50	0
18284	법무부, 사단법인 너머와 동포 지원 정책 간담회 개최	파이낸셜뉴스	04.15	51	0
18283	'수억대 금품 수수 혐의' 이베스트투자증권 전 본부장 구속영장	파이낸셜뉴스	04.15	51	0
18282	법무법인 세종, 알렉세이 스투카러브 러시아 변호사 영입[로펌소식]	파이낸셜뉴스	04.15	57	0
18281	'정보 누락·딥페이크' 조심하세요...조기 대선 흑색선전 등 기승 우	파이낸셜뉴스	04.15	135	0
18280	"이익금 20% 보장"...주식투자 명목 4000만원 가로챈 50대男	파이낸셜뉴스	04.15	52	0
18279	민법 5%·상법 6% 법정이율 '합헌'…김형두 재판관은 '위헌' 의견	파이낸셜뉴스	04.15	50	0
18278	'강서구 오피스텔 살인' 40대, 1심서 징역 20년	파이낸셜뉴스	04.15	53	0
18277	'미공개 정보 이용 의혹' LG家 장녀 부부, 첫 재판서 혐의 부인	파이낸셜뉴스	04.15	52	0
18276	경찰, '방첩사 계엄문건' 사칭 메일' 北 소행 결론	파이낸셜뉴스	04.15	51	0
18275	공수처, '尹 석방 지휘' 혐의 심우정 검찰총장 사건 고발인 조사	파이낸셜뉴스	04.15	50	0
18274	'오송 지하차도 참사' 현장소장, 대법서 징역 6년 확정	파이낸셜뉴스	04.15	215	0
18273	[속보]'오송 참사 부실 제방' 현장소장 징역 6년 확정	파이낸셜뉴스	04.15	48	0
18272	택시기사 부부 적극 신고로 보이스피싱 수거책 잡았다	파이낸셜뉴스	04.15	2168	3
18271	박성재 법무장관 "韓 대행, 행정부 몫 헌법재판관 임명 가능"	파이낸셜뉴스	04.14	88	0
18270	서울 관악구 재개발구역서 지반 균열…해당 구간 통제	파이낸셜뉴스	04.14	131	0
18269	[속보]또 지반침하, 이번엔 서울 관악구 삼성동 재개발구역…통제 중	파이낸셜뉴스	04.14	131	0
18268	회생법원 "오아시스, 티몬 인수예정자 선정"...6월 최종 결정	파이낸셜뉴스	04.14	83	0
18267	경찰, '쯔양 협박' 김세의 불송치 결정...검찰, 보완수사 요구	파이낸셜뉴스	04.14	83	0
18266	인권위 "육군 지휘관, 직장 내 괴롭힘 위험성 알리는 교육해야"	파이낸셜뉴스	04.14	77	0
18265	변협, 법무부 앞 거리서 집회 "신규 변호사 배출 줄여라"	파이낸셜뉴스	04.14	82	0
18264	법관대표회의 김예영 의장 연임…부의장에 이호산	파이낸셜뉴스	04.14	74	0
18263	'민간인' 尹 79분간 법정서 혐의 전면 부인..."메시지성 계엄,	파이낸셜뉴스	04.14	74	0
18262	[현장]'자연인' 尹 첫 공판기일..."윤 어게인" vs "내란수괴	파이낸셜뉴스	04.14	66	0
18261	주택법상 전체 신규가구 기준 학교용지부담금 부과…헌재 "합헌"	파이낸셜뉴스	04.14	66	0
뉴스	“온몸으로 막았다”…나영석, 뒤늦게 전해진 ‘비행기 미담’, 뭐길래	디시트렌드	14:00