디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[생성 AI 길라잡이] 방통위, 이용자 보호 위한 생성형 AI 서비스 가이드라인 발표

IT동아갤로그로 이동합니다. 2025.03.14 17:31:06
조회 86 추천 0 댓글 0
※생성 인공지능이 세계를 뜨겁게 달굽니다. 사람만큼, 더러는 사람보다 더 그림을 잘 그리고 글을 잘 쓰는 생성 인공지능. 생성 인공지능을 설치하고 활용하는 방법과 최신 소식을 매주 전합니다.

[IT동아 한만혁 기자] 인공지능(AI) 기술이 빠르게 발전하면서 다양한 생성형 AI 서비스가 나오고 있습니다. 덕분에 전문 지식이 없는 일반인도 그림, 음악, 글쓰기, 코딩 등의 작업을 원하는 대로 할 수 있게 됐습니다. 하지만 생성형 AI 서비스를 딥페이크 성범죄물, 차별 및 편향 콘텐츠 생산 등 정보 생산 등에 악용하는 사례도 발생하고 있습니다. 이에 이용자 안전 및 권리를 보호할 제도적 기반 마련에 대한 필요성이 지속적으로 제기됐습니다.

방송통신위원회(방통위)는 이런 요구에 대응하기 위해 지난해 2월 정보통신정책연구원(KISDI) 및 학계, 업계, 시민단체와 함께 연구반을 구성하고 생성형 AI 피해 사례와 국내외 주요 서비스별 이용자 보호 현황 등을 검토 후 이를 기반으로 생성형 AI 서비스 이용자 보호 가이드라인을 마련했습니다.


방송통신위원회가 생성형 AI 서비스 이용자 보호 가이드라인을 발표했다 / 출처=방송통신위원회



또한 지난해 9월 열린 ‘AI 서비스 이용자 보호 학술회의’에서 가이드라인 주요 내용을 발표하고, 주요 사업자 대상 기업 간담회를 진행하면서 이해관계자 의견을 수렴했습니다. 실효성 있는 가이드라인을 구축하기 위함이죠.

방통위가 발표한 생성형 AI 서비스 이용자 보호 가이드라인은 서비스 개발사 및 제공자를 대상으로 하며, 생성형 AI 서비스 전반에 걸쳐 추구해야 할 기본 원칙과 이를 실현하기 위한 실행 방식을 담고 있습니다.

기본 원칙은 ▲인간의 존엄성을 보호하고 개인의 자유와 권리를 보장하며, 인간이 적절하게 통제하고 감독할 수 있는 방식으로 제공 ▲AI 시스템 사용에 따른 작동 원리 및 결과, 이용자에게 미치는 영향 등에 대해 제공 ▲안전하게 작동되어야 하며, 예상치 못한 피해를 최소화하고 악의적으로 이용되거나 변경되지 않도록 제공 ▲이용자에게 차별 또는 불공정한 결과가 발생하지 않도록 제공 등 4가지입니다.

이를 실현하기 위한 방안으로 방통위가 제시한 실행 방식은 6가지입니다. 첫째는 이용자 인격권 보호입니다. 서비스 개발사는 이용자 인격권 침해 요소를 발견 및 통제하는 알고리즘을 구축하고, 서비스 제공자는 이용자 인격권 침해 관련 내부 모니터링 체계나 이용자 신고 프로세스 등을 마련해야 합니다.


생성형 AI 결과물임을 알린 모범 사례 / 출처=방송통신위원회



두 번째 실행 방식은 서비스의 결정 과정을 알리는 것입니다. 서비스 제공자는 결과물이 생성형 AI로 생성됐음을 고지하고, 서비스 사업자의 이익을 침해하지 않는 범위 내에서 생성형 AI의 작업 과정에 대한 기본 정보를 제공해야 합니다.

세 번째는 다양성 존중입니다. 서비스 개발사와 제공자는 차별적, 편향적 정보를 줄이고 다양성을 보장하는 원칙이나 기준을 마련해야 합니다. 이용자가 서비스를 편향적으로 사용하지 않도록 기능적 장치를 마련하고, 편향적 정보 생성에 대해 즉시 신고할 수 있는 방법을 마련해야 합니다.

네 번째는 입력 데이터 수집 및 활용 관리입니다. 서비스 제공자는 이용자가 입력 및 생성한 데이터를 학습 데이터로 활용하는 경우 사전에 고지하고 동의 혹은 거부할 수 있는 절차를 마련해야 합니다. 또한 기업 내 감시 조직이나 책임자를 선정해 이용자의 데이터가 안전하고 정당하게 활용되도록 관리해야 합니다.

다섯 번째는 문제 해결을 위한 책임과 참여입니다. 서비스 제공자는 이용자의 이해를 돕기 위해 제공자와 이용자의 책임 범위를 정의하고, 이용자가 자기 책임을 명확히 인지하도록 안내해야 합니다. 또한 이용자의 피해 발생을 최소화하기 위해 모니터링 시스템이나 위험 관리 체계를 마련해야 합니다.

마지막 실행 방식은 건전한 유통 및 배포를 위한 노력입니다. 서비스 제공자는 이용자가 부적절한 콘텐츠를 생성하거나 공유하지 않도록 안내하고, 도덕적, 윤리적 기준을 준수하는지 검토 및 관리해야 합니다. 특히 이용자가 유해한 콘텐츠를 청소년에게 유포하지 않도록 노력해야 합니다.

방통위는 각 실행 방식에 대한 모범 사례도 공개했습니다. 실제 서비스에서 모범 사례를 취합한 만큼 서비스 사업자의 이해도를 높이는데 유용할 것으로 보입니다.


생성형 AI 서비스 이용자 보호 가이드라인 표지 / 출처=방송통신위원회



가이드라인은 오는 3월 28일부터 시행되며, 세부 내용은 방통위 홈페이지에서 내려받을 수 있습니다. 방통위는 시행일 기준 2년마다 가이드라인에 대한 타당성을 검토해 개선할 계획입니다.

방통위는 가이드라인을 발표하며 생성형 AI 서비스 이용 과정에서 발생할 수 있는 잠재적 위험을 사전에 방지함으로써 안전하고 신뢰할 수 있는 생성형 AI 서비스 이용 환경을 마련하고자 한다고 밝혔습니다. 실효성 있는 실행 방안이 되도록 업계의 목소리도 충분히 반영했습니다.

물론 가이드라인에 강제성은 없습니다. 하지만 서비스 개발자와 제공자가 적극적으로 준수한다면 보다 안전한 이용자 보호 환경과 신뢰할 수 있는 서비스 생태계가 조성될 것입니다. 자연스럽게 생성형 AI 산업도 확장되겠죠. 이번 가이드라인을 통해 보다 많은 사람이 생성형 AI 서비스의 편리함을 누릴 수 있기를 기대합니다.

IT동아 한만혁 기자 (mh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ [스타트업-ing] 코딧 “법·규제·정책 동향 한눈에 확인하는 ‘정책 포털’ 만든다”▶ 인공지능 게임 그래픽 보정ㆍ가속 기술의 빛과 그림자▶ “고객 서비스 구축 과정 단축” 센드버드, A2A 기반 지능형 에이전트 서비스 공개



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 매니저들에게 가장 잘할 것 같은 스타는? 운영자 25/03/10 - -
이슈 [디시人터뷰] 뭐든지 직접 체험해보는 남자, 유튜버 고재영 운영자 25/03/14 - -
5021 데이터 백업 위한 클라우드 저장소 찾아보기 IT동아갤로그로 이동합니다. 03.14 19 0
[생성 AI 길라잡이] 방통위, 이용자 보호 위한 생성형 AI 서비스 가이드라인 발표 IT동아갤로그로 이동합니다. 03.14 86 0
5019 [리뷰] 실속파 비즈니스 노트북, 에이수스 엑스퍼트북 P1 [1] IT동아갤로그로 이동합니다. 03.14 2315 0
5018 수입 해치백 최초 5만 대 판매 돌파한 ‘폭스바겐 골프’ 부분변경 모델 출시 [8] IT동아갤로그로 이동합니다. 03.14 2319 0
5017 안드로이드에서 애플TV 앱 쓴다··· 변혁 접어든 애플의 구글 접근법 IT동아갤로그로 이동합니다. 03.14 46 0
5016 [스타트업-ing] 코딧 “법·규제·정책 동향 한눈에 확인하는 ‘정책 포털’ 만든다” IT동아갤로그로 이동합니다. 03.14 40 0
5015 [생활 속 IT] 네이버 지도에서 돌봄 서비스 조회·예약된다 [1] IT동아갤로그로 이동합니다. 03.14 1633 0
5014 인공지능 게임 그래픽 보정ㆍ가속 기술의 빛과 그림자 IT동아갤로그로 이동합니다. 03.13 60 0
5013 [시승기] 다이내믹한 성능과 안정적인 승차감의 조화 ‘마칸 일렉트릭’ IT동아갤로그로 이동합니다. 03.13 64 0
5012 믿는 미국에 반도체 찍힌 유럽, RISC-V는 '독립선언서'가 되어줄까 IT동아갤로그로 이동합니다. 03.13 113 0
5011 인텔 새 CEO에 립부 탄 前 케이던스 CEO ··· '쓰러진 거인 다시 세울까' [5] IT동아갤로그로 이동합니다. 03.13 5426 0
5010 노코딩 기반의 의료데이터 추출 기능으로 연구 효율 높인 ‘건국대병원’ IT동아갤로그로 이동합니다. 03.13 68 0
5009 가전 업계에서 뷰티 업계로 ‘선 넘는 다이슨’, 그 이유는? IT동아갤로그로 이동합니다. 03.13 126 0
5008 금융위·업계, 법인 가상자산 시장 참여 ‘가이드라인’ 논의 IT동아갤로그로 이동합니다. 03.13 58 0
5007 퓨어스토리지 “플래시블레이드//EXA는 AI∙HPC 위한 최적의 스토리지” IT동아갤로그로 이동합니다. 03.12 84 0
5006 “고객 서비스 구축 과정 단축” 센드버드, A2A 기반 지능형 에이전트 서비스 공개 IT동아갤로그로 이동합니다. 03.12 85 0
5005 23년 만에 바뀌는 운전면허증·보행 약자 위한 교통안전 강화 추진 [17] IT동아갤로그로 이동합니다. 03.12 2605 0
5004 SKT-슈나이더 일렉트릭, AI 데이터센터 솔루션 공동 개발 나선다 IT동아갤로그로 이동합니다. 03.12 86 0
5003 [민관협력 오픈이노베이션 지원사업] 리젠티앤아이, '건축 폐기물로 고품질 친환경 플라스틱 만든다' IT동아갤로그로 이동합니다. 03.12 83 0
5002 [주간스타트업동향] 딥엑스, 뉘른베르크 임베디드 월드 통해 글로벌 기업과 협업 外 IT동아갤로그로 이동합니다. 03.12 109 0
5001 마지막 비추론 AI 모델된 GPT4.5, 비추론과 추론 모델은 어떤 차이? [9] IT동아갤로그로 이동합니다. 03.12 4829 5
5000 필립스코리아 “수면무호흡증 환자 증가하지만 인식은 낮다” IT동아갤로그로 이동합니다. 03.12 89 0
4999 킬사글로벌, 스타트업 해외시장 진출 돕는 '글로벌 홍보 증진 프로그램' 합류 IT동아갤로그로 이동합니다. 03.12 83 0
4998 [민관협력 오픈이노베이션 지원사업] 밀리어스 “CJ온스타일의 브랜딩 전략 구축 지원받아 세계 진출 발판 마련한 밀리밀리” IT동아갤로그로 이동합니다. 03.12 98 0
4997 [리뷰] “고부하 작업과 게이밍 사이의 조화” AMD 라이젠 9 9950X3D [3] IT동아갤로그로 이동합니다. 03.12 1984 3
4996 연세퀀텀컴플렉스 개소…양자컴퓨팅 미래 앞당길까 IT동아갤로그로 이동합니다. 03.11 94 0
4995 [시승기] 더 커진 차체와 첨단 기술 앞세워 돌아온 ‘신형 팰리세이드’ IT동아갤로그로 이동합니다. 03.11 105 0
4994 LG∙삼성의 가전 구독 서비스, 기존 렌탈∙할부와의 차이점은? [1] IT동아갤로그로 이동합니다. 03.11 695 0
4993 통신사용 AI 평가하는 ‘오픈 텔코 LLM 벤치마크’ 공개 IT동아갤로그로 이동합니다. 03.10 140 0
4992 일상 속 RFID의 쓰임새, 그리고 차단 기술의 원리는? [1] IT동아갤로그로 이동합니다. 03.10 2015 0
4991 아이폰 실수로 전화 걸기 방지하려면 이렇게! [이럴땐 이렇게!] IT동아갤로그로 이동합니다. 03.10 147 0
4990 [주간투자동향] 젠젠에이아이, 120억 원 규모 시리즈A 투자 유치 外 [1] IT동아갤로그로 이동합니다. 03.10 600 0
4989 [리뷰] 썬더볼트 기능에 뛰어난 화질까지, 델 울트라샤프 U2725QE IT동아갤로그로 이동합니다. 03.10 125 0
4988 [생성 AI 길라잡이] “인공지능 생성 결과물로 나만의 콘텐츠 만들자” 캔바 [2] IT동아갤로그로 이동합니다. 03.07 7057 2
4987 [신차공개] 볼보, 차세대 전기 세단 ‘ES90’·KGM 첫 HEV ‘토레스 하이브리드’ 공개 IT동아갤로그로 이동합니다. 03.07 214 0
4986 [투자를IT다] 2025년 3월 1주차 IT기업 주요 소식과 주가 흐름 IT동아갤로그로 이동합니다. 03.07 194 0
4985 [리뷰] 비밀번호 없이 안면 인식으로 열린다, 직방 헤이븐 도어록 [11] IT동아갤로그로 이동합니다. 03.07 4932 1
4984 [생활 속 IT] 내 위치 실시간 공유, 카카오맵 ‘위치 공유’ IT동아갤로그로 이동합니다. 03.07 182 0
4983 [IT애정남] 대중화 시작된 와이파이 7, 어떻게 구축하고 쓰나요? IT동아갤로그로 이동합니다. 03.07 222 0
4982 람보르기니, 우라칸 후속 920마력 HPEV 슈퍼카 ‘테메라리오’ 공개 [1] IT동아갤로그로 이동합니다. 03.06 623 1
4981 MWC 2025 무대 선 통신장비사, 주목한 AI 기술 살펴보니 IT동아갤로그로 이동합니다. 03.06 235 0
4980 [리뷰] 음식물 처리기를 백색 가전 반열로, '이롭 더 그레블' [1] IT동아갤로그로 이동합니다. 03.06 854 0
4979 SBA, 높아지는 美 보호무역 대응 위한 '제재 준수 프로그램' 등 지원 나서 IT동아갤로그로 이동합니다. 03.06 570 0
4978 스타트업 투자 유치 프로젝트 '와우데이' 개최... 유망 스타트업과 투자자 연결의 장 IT동아갤로그로 이동합니다. 03.06 167 0
4977 [ETF 기본기 다지기] ETF 상품 선택 시 고려해야 할 3가지 IT동아갤로그로 이동합니다. 03.06 161 1
4976 [리뷰] “가격과 성능 둘 다 잡았다” AMD 라데온 RX 9070 시리즈 [3] IT동아갤로그로 이동합니다. 03.06 2772 4
4975 "장비 가리지 않고 개인정보 지킨다" 노드시큐리티, 한국 개인 보안 시장 정조준 IT동아갤로그로 이동합니다. 03.06 185 0
4974 [생활 속 IT] 아이폰 기본 메모에서 실시간 공동 작업하려면 [1] IT동아갤로그로 이동합니다. 03.05 5038 2
4973 [주간스타트업동향] 조윈, 암 환우 심리상담 앱 '캔서포트' 정식 출시 外 IT동아갤로그로 이동합니다. 03.05 176 0
4972 “스테이블코인 규제, 금융 안정 고려해야” IT동아갤로그로 이동합니다. 03.05 184 0
뉴스 주지훈, ‘궁’ 시절 회상…“이준기 덕분에 내 스타일 이상하지 않았다” 디시트렌드 03.14
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2