디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

가짜뉴스 잡으려는 AI 업계…. 관건은 ‘정확도’

IT동아갤로그로 이동합니다. 2023.05.25 19:26:34
조회 2067 추천 1 댓글 11
[IT동아 정연호 기자] 명령어(프롬프트)를 입력하면 글과 사진 등 콘텐츠를 만드는 인공지능(이하 AI)이 세계 곳곳에서 인기다. 동시에 AI 콘텐츠로 만든 가짜뉴스를 우려하는 목소리도 커졌다. 실제로 최근에는 AI로 만든 정교한 가짜뉴스가 부쩍 늘었다. 이에 업계는 AI로 제작한 콘텐츠를 감별하는 기술들을 개발하지만, 완성도를 더 높여야 한다는 분석이 나온다.

글, 사진, 영상을 만드는 AI 기술은 빠른 속도로 발전한다. 이제 오픈AI의 챗GPT는 사람이 쓴 것 같은 글을 작성한다. 사진 제작 AI인 미드저니(Midjourney)의 결과물을 실제 사진으로 착각하는 사람도 있다. 비디오 제작 AI 기업 런웨이의 ‘젠-2’가 만든 영상은 아직 해상도가 낮고 피사체 움직임도 어색하다. 하지만, 글, 사진을 만드는 AI처럼 기술이 빠르게 발전할 것이라는 전망이 나온다.

이러한 AI 기술은 다양한 콘텐츠를 만들 때 진입 장벽을 낮춘다는 장점이 있지만, 단점도 있다. AI를 악용해 정교한 가짜뉴스를 만드는 것이 쉬워졌다. 실제로 AI로 만든 가짜뉴스들이 사회관계망서비스(SNS)에 범람하는 중이다.

지난 22일(현지시각) 트위터에 미국 펜타곤(국방부 청사)의 화재 사진이 올라왔다. AI로 제작한 가짜 사진으로 만든 가짜 뉴스였다. 러시아의 해외 선전매체인 RT와 유명 경제뉴스 계정들이 이 사진을 공유했다. 많은 사람들이 펜타곤 화재를 실제 상황으로 받아들였다.


트위터에 올라온 펜타곤 화재 사진, 출처=WhaleChart



이에 펜타곤 주변을 관할하는 버지니아주 알링턴카운티의 소방당국은 공식 트위터 계정에서 “펜타곤 근처에서 발생한 화재는 없다.”라고 밝혔다.

AI 전문가들은 이러한 가짜뉴스의 진위를 판별하려면 우선 디지털 포렌식(디지털 정보를 분석해 범죄 단서를 찾는 수사 기법)이 필요하다고 말한다. 글, 사진, 영상 속 조작의 흔적을 발견해야 한다는 것이다.

디지털 포렌식 전문가들은 펜타곤 화재 사진에도 AI가 만든 사진의 특성이 나타난다고 말한다. 사진을 살펴보면 어색한 부분이 보이는 것이다. 해니 파리드 버클리 캘리포니아대 교수는 AP통신에 “사진 속 울타리는 불규칙하게 배열됐고, 건물의 창문도 실제 펜타곤 건물의 창문과 다르다.”라고 말했다.

문제는 디지털 포렌식에 능한 사람이 많지 않다는 점이다. 게다가 AI 기술이 발전하면서, 가짜뉴스를 구별하는 것이 어려워졌다. 가짜뉴스의 폐해를 걱정하는 목소리가 나오는 이유다. 특정 집단이 AI로 만든 가짜뉴스로 선거를 포함한 중요한 행사에 조작을 가할 우려가 크다.

이러한 불안을 해소하기 위해서, 업계는 AI로 만든 콘텐츠를 감별하는 기술을 개발하고 있다. 콘텐츠를 AI와 사람 중 누가 만들었는지 알려주는 기술이다. 주로 사람과 AI의 콘텐츠가 어떻게 다른지 학습한 AI를 활용한다.

오픈AI는 챗GPT 감지기인 ‘클래시파이어’를 내놨다. 글을 입력하면, AI가 작성했을 가능성이 얼마나 되는지 알려준다. 다만, 아직 정확도가 낮다. 오픈AI 자체 테스트에 따르면, 클래시파이어는 AI가 쓴 글 가운데 26%만 ‘AI가 작성했을 가능성이 있다.’로 판단했다.


오픈AI의 클래시파이어, 출처=IT동아



AI로 제작한 그림과 영상을 감별하는 기술도 있다. 미국의 AI기업 옵틱은 AI가 만든 사진인지를 판별해 주는 사이트(aiornot)를 공개했다. 역시 정확도는 높지 않다. AI로 만든 도널드 트럼프 전 미국 대통령의 사진을 ‘AI가 아닌 사람이 제작했다’라고 판단했다.


옵틱의 aiornot사이트, 출처=IT동아



미국의 AI 기업 딥미디어는 영상을 분석해 화면, 음성에 조작이 있는지를 확인한다. 인텔도 가짜 영상을 탐지하는 ‘페이크캐쳐’를 개발했다. 영상 속 사람이 실제 사람이라는 ‘증거’, 예컨대 얼굴의 혈류가 진짜인지 확인하는 것이다.

이처럼 다양한 AI 감별 기술이 나왔지만, 대부분 정확도는 높지 않다. 이에 일부 AI 기업들은 정확도를 높일 방법으로 콘텐츠에 워터마크(기업의 상표를 숨겨두는 기술)를 삽입하는 기술을 개발한다. 워터마크는 사진과 영상 콘텐츠에만 대입 가능한 한계가 있지만, 그럼에도 지금 단계에서의 AI의 악용 사례를 줄이는 데에는 도움이 될 것이라는 분석이 나온다.

스타트업 프렌들리AI의 창업자인 전병곤 서울대학교 컴퓨터공학부 교수는 “특정 AI 기업의 기술로 콘텐츠를 만들었다는 워터마크를 넣는 것이 대안이다. 텍스트도 문장에 패턴을 넣는 식으로 워터마크를 넣는다. 이를 기본으로 AI로 만든 콘텐츠를 감별하는 기술의 정확도를 높일 수 있다.”라고 전했다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ AI에 진심인 MS, 윈도에도 AI 비서 '코파일럿' 탑재▶ 구글, 인공지능으로 장애인 접근성 높인다▶ 보안 업계 “챗GPT 탈 쓴 불량 앱 주의해야”



추천 비추천

1

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 연예인 말고 매니저 했어도 잘했을 것 같은 계획형 스타는? 운영자 25/01/13 - -
2696 [SCS] 시설관리 시스템 '메타 세이프티'를 도입한 강릉물류센터 IT동아갤로그로 이동합니다. 23.06.07 142 0
2695 [WWDC23] iOS 17, 워치OS 10, 맥OS 소노마 등장··· 핵심은 '사용자 경험' IT동아갤로그로 이동합니다. 23.06.07 182 0
2694 [WWDC23] 애플, M2 울트라 기반 맥프로, 15인치 맥북 에어로 라인업 확충 [3] IT동아갤로그로 이동합니다. 23.06.07 1165 0
2693 [동국대학교 캠퍼스타운] 스포잇 “스포츠로 사회적 가치 실현한다” IT동아갤로그로 이동합니다. 23.06.07 129 0
2692 차세대 주연산장치 속속...스마트폰 성능·효율 좋아진다. [9] IT동아갤로그로 이동합니다. 23.06.07 1306 0
2691 [메타버스에 올라타자] 5. 메타버스 세상에서의 '소통' IT동아갤로그로 이동합니다. 23.06.07 143 0
2690 [뉴스줌인] 에이수스 비보북 16X에 탑재된 MUX 스위치, 용도는? IT동아갤로그로 이동합니다. 23.06.05 171 0
2689 [IT애정남] 10년 기다린 디아블로 IV, 제 노트북으로도 되나요? IT동아갤로그로 이동합니다. 23.06.05 189 0
2688 충전 속도 빠른 충전기 구분하려면 이렇게![이럴땐 이렇게!] [44] IT동아갤로그로 이동합니다. 23.06.05 8385 28
2687 [주간투자동향] 비욘드뮤직, 2,000억 원 규모의 추가 투자 유치 IT동아갤로그로 이동합니다. 23.06.05 198 0
2686 [뉴스줌인] NAS 제조사 시놀로지에서 출시한 HDD, 뭐가 다를까? [48] IT동아갤로그로 이동합니다. 23.06.03 7869 1
2685 '인공지능 각축전'으로 거듭난 컴퓨텍스 2023, 올해 주목받은 기업들은? IT동아갤로그로 이동합니다. 23.06.02 177 0
2684 [리뷰] 국산 반도체의 진면모를 파헤치다, 퓨리오사AI 워보이 NPU IT동아갤로그로 이동합니다. 23.06.02 244 0
2683 [농업이 IT(잇)다] 아케미 “우리 쌀 디저트로 건강과 맛을 함께” IT동아갤로그로 이동합니다. 23.06.02 190 0
2682 모토롤라 '레이저 40' 공개, 갤럭시Z 플립과 맞대결 [19] IT동아갤로그로 이동합니다. 23.06.02 2642 3
2681 NAS만이 아니다? 시놀로지, 컴퓨텍스에서 다양한 솔루션 선보여 IT동아갤로그로 이동합니다. 23.06.01 243 1
2680 인텔, 차세대 CPU에 인공지능 전용 처리 장치, 'VPU' 심는다 [10] IT동아갤로그로 이동합니다. 23.06.01 1686 1
2679 음향기기의 활발한 콜라보레이션 ‘소비자 구매욕 자극’ IT동아갤로그로 이동합니다. 23.06.01 1058 0
2678 '인공지능 핵심 기업으로 우뚝···' 컴퓨텍스 2023에서 빛난 엔비디아 [1] IT동아갤로그로 이동합니다. 23.06.01 989 2
2677 LG U+·KT ‘PASS’ 주의, 약관 전체동의 시 부가 서비스에 가입 [17] IT동아갤로그로 이동합니다. 23.05.31 2690 20
2676 인공지능, 전염병·핵 전쟁 수준의 위협 되기 전 관리해야 [10] IT동아갤로그로 이동합니다. 23.05.31 1344 2
2675 신산업 기술 개발하는 딥테크… 정부가 나서 육성한다 IT동아갤로그로 이동합니다. 23.05.30 204 0
2674 파손·침수된 스마트폰 데이터 복원하려면 이렇게![이럴땐 이렇게!] [1] IT동아갤로그로 이동합니다. 23.05.30 1740 0
2673 경쟁 심화·규모 감소에 스마트폰 기업 철수 연이어 [7] IT동아갤로그로 이동합니다. 23.05.30 3794 15
2672 [주간투자동향] IPX, BRV캐피탈로부터 1,200억 원 규모의 투자 유치 IT동아갤로그로 이동합니다. 23.05.30 158 0
2671 니콘 Z8 수석 개발자, "니콘 Z8, 플래그십 Z9보다 더 도전적인 카메라" [2] IT동아갤로그로 이동합니다. 23.05.30 687 2
2670 사고에 취약한 1인 가구, IoT로 극복 가능? [1] IT동아갤로그로 이동합니다. 23.05.26 1229 2
2669 [리뷰] 소형 TV를 위한 인테리어 스탠드, 카멜마운트 SMB32 이동형 스탠드 IT동아갤로그로 이동합니다. 23.05.26 372 0
2668 [농업이 IT(잇)다] 와일드웨이브 “우리나라만의 사워 맥주 보급” [6] IT동아갤로그로 이동합니다. 23.05.26 1102 1
2667 음악 감상 경험 높이는 음질·ANC 개인 최적화 기술 IT동아갤로그로 이동합니다. 23.05.26 201 0
가짜뉴스 잡으려는 AI 업계…. 관건은 ‘정확도’ [11] IT동아갤로그로 이동합니다. 23.05.25 2067 1
2665 ‘코로나 특수’ 맞았던 글로벌 게임시장, 왜 중국만 역성장?[K비즈니스 가이드] [21] IT동아갤로그로 이동합니다. 23.05.25 2016 6
2664 건설 현장 논란 ‘근로자 경력 관리’로 보완한다 [10] IT동아갤로그로 이동합니다. 23.05.25 1140 3
2663 배달비 인상에 주목받는 ‘배달비 무료 배달앱’ [25] IT동아갤로그로 이동합니다. 23.05.25 1888 1
2662 샘 워너 IBM 부사장 “효율성, 보안성까지 잡은 IBM 스토리지, 한국 시장에서 호응” IT동아갤로그로 이동합니다. 23.05.24 195 1
2661 [IT 신상공개] 가장 작고 가벼운 EOS, 캐논 EOS R100 IT동아갤로그로 이동합니다. 23.05.24 1364 0
2660 [농업+IT=스마트팜] 6. 나만의 스마트팜 본격 구축하기 (1) IT동아갤로그로 이동합니다. 23.05.24 187 0
2659 콘텐츠 소비자, 몰입감 위해 지갑 연다 [3] IT동아갤로그로 이동합니다. 23.05.24 3094 0
2658 종합소득세 신고, 국세청 모두채움으로 간편하게 [7] IT동아갤로그로 이동합니다. 23.05.24 4967 6
2657 노스노비 “리울프 플랫폼과 친환경 종이 화병으로 화훼업계 ‘배민’ 노린다” [스타트업-ing] IT동아갤로그로 이동합니다. 23.05.23 172 0
2656 구글, 인공지능으로 장애인 접근성 높인다 IT동아갤로그로 이동합니다. 23.05.23 230 0
2655 중국, 美 반도체 기업 '마이크론' 제재··· '기로에 선 한·미 반도체 기업들' [2] IT동아갤로그로 이동합니다. 23.05.22 373 0
2654 서울과기대, 예비창업자 돕는 '2023년 메이커스페이스 제조창업교육' 실시 IT동아갤로그로 이동합니다. 23.05.22 209 0
2653 다른 노트북 충전 어댑터를 사용하고 싶을 땐 이렇게![이럴땐 이렇게!] [63] IT동아갤로그로 이동합니다. 23.05.22 4631 3
2652 [IT신상공개] 비행 편의와 내후성 좋아진 산업용 드론 DJI M350 RTK [1] IT동아갤로그로 이동합니다. 23.05.22 1072 1
2651 [주간투자동향] 콜게이트, 100억 원 규모 투자 유치 IT동아갤로그로 이동합니다. 23.05.22 243 0
2650 가상자산 첫 거래 기념하는 ‘비트코인 피자데이’ [14] IT동아갤로그로 이동합니다. 23.05.22 2824 0
2649 아웃스쿨 “날 것 그대로의 영어 수업, ‘직구’하듯 골라 배운다” [6] IT동아갤로그로 이동합니다. 23.05.19 5866 1
2648 킨스미디어, “물류센터 디지털화, 시설관리부터 시작해야” [스타트업-ing] IT동아갤로그로 이동합니다. 23.05.19 215 0
2647 엔비디아 RTX 4060·4060 Ti 공개··· '2년 기다렸는데 실망스러워' [29] IT동아갤로그로 이동합니다. 23.05.19 3392 3
뉴스 [TVis] 이영지, 거미에게 무례한 질문했나… “선뽀뽀 후뽀뽀” (‘더 시즌즈’) 디시트렌드 01.18
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2