MS, 얼굴 표정에서 감정 읽어주던 AI 서비스 종료…이유는?

IT동아

2022.06.22 18:30:37

조회 193 추천 0 댓글 0

[IT동아 권택경 기자] 마이크로소프트가 클라우드 서비스로 제공하던 얼굴 인식 기능 중 일부를 더 이상 제공하지 않겠다고 밝혔다. 문제가 된 기능은 얼굴 인식을 바탕으로 감정, 성별, 나이 등을 유추하는 기능이다.

이번 결정은 인공지능을 안전하고 윤리적인 방향으로 개발하고 이용할 수 있게 하겠다는 마이크로소프트 정책에 따른 것이다. 마이크로소프트는 지난 2019년 이같은 정책을 규범화한 ‘책임 있는 인공지능’ 기준을 처음으로 제시한 바 있다. 지난 21일에는 최신 연구 결과를 반영해 더욱 발전시킨 개정판을 공개했다. 마이크로소프트는 지난 1년간 연구원, 엔지니어, 정책 전문가 등 다양한 전문가와 함께 이 기준을 만들었다고 밝혔다. 새 기준 발표와 동시에 당장 일부 기능 제공을 중단한 건 이 기능들이 기준에 부합하지 않는다고 판단했기 때문이다.

애저의 페이스 API는 얼굴 표정에서 감정을 읽는 기능을 제공해왔다. 출처=깃헙

마이크로소프트는 클라우드 서비스 애저의 ‘페이스 API’ 등에서 얼굴 표정으로 감정을 읽거나 성별, 나이, 메이크업, 미소, 수염, 머리카락 등의 속성을 판단하는 기능을 제공해왔다. 이중 페이스 API의 감정 인식 기능은 기업 고객이 아닌 누구라도 이용할 수 있도록 공개하기도 했다.

그러나 이를 놓고 과학적 근거가 부족하고 사회적 편견과 오남용 가능성이 크다는 비판이 꾸준히 제기됐었다. 미국 심리학회가 노스이스턴 대학 리사 펠드먼 바렛 교수 등에 의뢰한 연구 결과에 따르면 얼굴 표정과 감정 사이에는 큰 연관성이 없었다. 연구에 따르면 사람은 감정을 다양한 방식으로 표현하기 때문에 표정만으로 감정을 추론하는 건 정확도가 떨어진다. 예컨대 화가 났을 때 사람들이 얼굴을 찡그리는 경우는 평균 30% 미만이다. 다시 말해 찡그린 얼굴만으로 ‘화남’이란 감정을 판별하는 건 무리가 있다는 것이다.

얼굴 인식을 기반으로 성별, 나이, 수염, 머리카락, 메이크업 등 정체성과 관련된 민감한 속성을 유추하는 기능도 고정관념이나 차별을 강화하고 부당한 서비스 거부로 이어질 수 있다는 우려가 제기됐다.

마이크로소프트가 이러한 내외부 문제 제기를 수용함하고 '책임 있는 인공지능' 기준에 반영함에 따라 해당 기능들은 더 이상 신규 고객들에게 제공되지 않는다. 다만 기존 고객들에게는 내년 6월 30일까지 일종의 유예 기간을 주기로 했다. 또한 마이크로소프트의 시각장애인용 음성 안내 앱인 씨잉 AI(Seeing AI)처럼 오남용 위험성보다 유익성이 큰 활용 분야에 한해서는 예외를 뒀다.

출처=마이크로소프트

이와 별개로 마이크로소프트는 앞으로 얼굴 인식을 이용하려는 고객들에게 접근 권한을 허용받도록 하는 절차도 추가한다. 얼굴 인식 기능이 마이크로소프트가 제시한 기준에 부합하고, 사용자와 사회적 이익에 기여하는 방향으로 활용되는지 확인하겠다는 의도다. 대상은 페이스 API, 컴퓨터 비전, 비디오 인덱서 등에서 얼굴 인식 기능을 이용하고자 하는 고객들이다. 이들은 1년 단위로 승인을 새로 받아야 한다. 기존 고객들은 2023년 6월 30까지 승인받도록 했다. 다만 얼굴 인식이 아닌 얼굴 감지 기능은 이러한 절차 없이 계속 사용할 수 있다. 단순히 얼굴을 감지해 흐리게 처리하거나, 얼굴 방향을 인식하는 등의 기능이 이에 해당한다.

나타샤 크램프턴 마이크로소프트 ‘책임 있는 AI’ 최고 책임자는 “더 나은, 공평한 미래를 위해서는 인공지능을 위한 새로운 가드레일이 필요할 것”이라며 “마이크로소프트의 책임 있는 AI를 위한 기준은 이 목표를 향한 기여 중 하나”라고 말했다.

글 / IT동아 권택경 (tk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [IT하는법] 아이폰 메모 앱, 윈도에서 이용하는 방법은?▶ 센서, 드론에 자동차까지…소니, 모빌리티 사업 전개에 속도 ▶ [IT애정남] 지원 끝난 IE 11, 실행되는데 그냥 써도 되나요?

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	사회생활 대처와 처세술이 '만렙'일 것 같은 스타는?	운영자	25/03/31	-	-
1378	지금 전세계 게이머들이 쓰는 PC의 평균 사양은?	IT동아	22.06.24	358	0
1377	[농업이 IT(잇)다] 못생겼다고 버려지는 농산물을 화장품 원료로 바꾼 ‘브로컬리컴퍼니’	IT동아	22.06.24	119	0
1376	[농업이 IT(잇)다] 못생겼다고 버려지는 농산물을 화장품 원료로 바꾼 ‘브로컬리컴퍼니’	IT동아	22.06.24	120	0
1375	[리뷰] 직관적 외관과 신속한 반응성이 일품, 맥 스튜디오·스튜디오 디스플레이	IT동아	22.06.24	118	0
1374	사라진 '실시간 검색어'가 그립다면? 대체 서비스들 살펴보기	IT동아	22.06.24	153	0
1373	AP 경쟁 가속, 스냅드래곤 8+ 1세대 맞설 ‘디멘시티 9000+’ 등장	IT동아	22.06.24	143	0
1372	[스타트업人] “데이터 속 가치를 찾고 있습니다”, 당근마켓 데이터가치화팀 이야기	IT동아	22.06.24	113	0
1371	[혁신스타트업 in 홍릉] 여행 업계 디지털 전환으로 쇼핑의 즐거움 더한다, 더서비스플랫폼	IT동아	22.06.24	102	0
1370	"NFT 거래, 소유권과 저작권은 달라 주의 필요해"	IT동아	22.06.23	149	0
1369	뮤렉스파트너스 "투자는 자신의 스트라이크존 안에서 해야한다"	IT동아	22.06.23	102	0
1368	하이브리드·전기 승용차 판매량, 경유·LPG 처음으로 추월 [4]	IT동아	22.06.23	1573	0
1367	IT 유통 ‘큰 손’이 내놓은 ‘루밍’ 모니터, 시장 안착 여부에 ‘주목’ [6]	IT동아	22.06.23	2501	0
1366	'재밌는 화상 회의가 온다', 화상회의 솔루션 '으흠' 국내 공식 출시 [11]	IT동아	22.06.23	1823	1
1365	[IT강의실] 전자 기기의 ‘펌웨어 업데이트’ 꼭 해야 하나요?	IT동아	22.06.23	155	0
1364	[모빌리티 인사이트] 내가 가고 싶은 곳으로 안전하게 데려다 주는 ‘마법 신발’	IT동아	22.06.23	600	0
1363	보리로푸드 “우리 농산물로 만든 건강한 보리면으로 세계시장 공략을 꿈꿉니다”	IT동아	22.06.23	135	1
1362	[리뷰] 이렇게 작고 가벼운 게이밍 노트북이? 2022년형 에이수스 ROG Flow X13 [6]	IT동아	22.06.22	1152	3
1361	질병 조기진단과 치료의 열쇠…‘메디컬트윈’ 기술	IT동아	22.06.22	115	0
	MS, 얼굴 표정에서 감정 읽어주던 AI 서비스 종료…이유는?	IT동아	22.06.22	193	0
1359	[리뷰] 자동 먼지 비움에 물청소까지, 아이리버 에이클 INS-100 로봇 청소기	IT동아	22.06.22	110	0
1358	[앱으리띵] 잡지, 오디오북이 무료로? 도서관매거진, 오디언도서관	IT동아	22.06.22	1414	1
1357	[홍기훈의 ESG 금융] RE100을 알아보자 (1) 왜 우리는 RE100을 진지하게 바라보는가?	IT동아	22.06.22	114	0
1356	누리호 2차 발사 성공…배경은 12년 인고의 세월	IT동아	22.06.21	217	2
1355	가천대 게임·영상학과 윤준희 교수 “입학과 동시에 취업? 빈말 아니다”	IT동아	22.06.21	515	0
1354	10대부터 70대까지, 나이/직업 다양한 일상의 발명가들	IT동아	22.06.21	1590	1
1353	[IT운영관리] 10. "IT시스템 도입보단 운영관리가 더 중요하다"	IT동아	22.06.21	171	0
1352	[IT신상공개] 드라이하며 잔머리 잡는다, 다이슨 에어랩 멀티 스타일러	IT동아	22.06.21	179	0
1351	[리뷰] 자동 축 잠금에 1.8인치 OLED가 핵심, DJI 로닌 RS 3 프로	IT동아	22.06.21	115	0
1350	[IT하는법] 아이폰 메모 앱, 윈도에서 이용하는 방법은? [1]	IT동아	22.06.21	451	0
1349	광주정보문화산업진흥원 탁용석 원장, “사람이 중심인 허브를 꿈꿉니다”	IT동아	22.06.21	160	1
1348	센서, 드론에 자동차까지…소니, 모빌리티 사업 전개에 속도 [1]	IT동아	22.06.21	1488	4
1347	스마트팜 기술 1세대에 머물러 있는데...R&D 예산은 오히려 줄어	IT동아	22.06.20	124	0
1346	[IT애정남] 지원 끝난 IE 11, 실행되는데 그냥 써도 되나요? [5]	IT동아	22.06.20	2324	4
1345	부품 공급난·러 침공 직격, 유럽 스마트폰 출하량 10년만에 최저	IT동아	22.06.20	1556	1
1344	동국대 캠퍼스사업단 전병훈 단장, “지역을 넘어 지방, 세계로 확대할 수 있는 허브를 생각합니다”	IT동아	22.06.20	132	0
1343	[주간투자동향] 한화, UAM 기술 기업 오버에어에 1,500억 원 규모 투자	IT동아	22.06.20	109	0
1342	서울랜드 “홈페이지 서버 가비아 클라우드로 전환, 온라인 서비스 강화에 큰 힘”	IT동아	22.06.17	159	0
1341	[농업이 IT(잇)다] 농산물 주문 통합처리 플랫폼 개발 기업 ‘에이임팩트’	IT동아	22.06.17	112	0
1340	아는 만큼 보이는 협업 툴··· 업무 효율은 물론 조직 문화 개선에도 '특효' [1]	IT동아	22.06.17	169	0
1339	[스타트업人] 손 닿는 곳 모두 푸르게, 퍼밋 스마트팜 유지 보수 관리자 이야기	IT동아	22.06.17	106	0
1338	휘발윳값 2100원대 돌파…경제성에 방점 찍은 '초소형전기차' 주목 [8]	IT동아	22.06.17	2036	1
1337	인텔, 첫 데스크톱 그래픽 카드 공개··· 'GPU 시장 달굴까' [19]	IT동아	22.06.17	3834	7
1336	[리뷰] 에코백스 vs 로보락, 최고사양 로봇청소기, 얼마나 좋길래?	IT동아	22.06.16	123	0
1335	"다정함은 사람을 건강하게 한다"... AI챗봇은 코로나 블루를 치유할 수 있을까?	IT동아	22.06.16	156	0
1334	[리뷰] '호라이즌' 시리즈 팬을 위한 게임 저장고, 씨게이트 게임 드라이브 호라이즌 에디션	IT동아	22.06.16	111	0
1333	[IT신상공개] VR게임은 움직이면서 즐겨야 한다, 피코의 네오3 링크	IT동아	22.06.16	130	0
1332	[모빌리티 인사이트] 자동차 회사가 인공위성을 쏘고 있다?	IT동아	22.06.16	105	0
1331	렌털 서비스에 정부 지원까지 시작··· 확산하는 '디지털 사이니지'	IT동아	22.06.16	155	1
1330	스마트 상점 기술, 소상공인 구인·운영난 해결사로 발돋움	IT동아	22.06.16	457	1
1329	"디지털플랫폼이 야기하는 갈등 합리적 규제로 풀어야...이 시대에 말이나 마차 탈 수는 없어"	IT동아	22.06.16	139	0
뉴스	‘보물섬’ 박형식 “빨리 더 쏴요, 아버지!” 충격폭탄 엔딩 ‘소름’	디시트렌드	03.30