본문 바로가기
홈

K-Startup Issue & Trend

국내외 스타트업 생태계의 다양한 트렌드와 이슈를 제공합니다.

  • 이루다 사태로 본 인공지능 윤리

  • 최초작성일  2021-02-05 최종수정일  2021-02-15 조회수 2,816
K STARTUP 이루다 제공되는 컨텐츠 이미지 최근 화제가 된 대화형 AI ‘이루다’의 성희롱 및 차별·혐오 논란에 IT 업계를 비롯한 사회 각계에서 앞다퉈 의견을 개진하며 AI 윤리에 대한 관심이 고조되고 있다.
K STARTUP 이루다 제공되는 컨텐츠 이미지 AI 스타트업 ‘스캐터랩’이 출시한 이루다는 딥러닝 기술을 이용해 사람의 개입 없이 페이스북 메신저를 통해 대화 가능한 사람 컨셉의 AI 챗봇이다. 6개월 간의 베타 테스트에 약 1500명이 참여하였고, 공식 출시 이후 7천만건 이상의 누적 대화량을 기록하는 등 큰 관심을 끌었다.
K STARTUP 하지만 ‘이루다’와 동성애, 장애인, 여성에 대한 혐오 및 악의적 대화를 나눈 내용이 캡처되어 온라인 커뮤니티 상에서 공유되며 이슈화가 되었고, 그 과정에서 스캐터랩의 또 다른 서비스인 ‘연애의 과학’에서 수집한 이용자 카톡 데이터를 ‘이루다’의 학습 데이터로 활용한 사실이 드러나 논란이 가중되었다.
K STARTUP MBC뉴스 제공되는 컨텐츠 이미지 다수의 시민단체들이 공동성명을 내고 개인정보보호법 위반에 대한 조사 및 처벌을 요구한데 이어 업계 내에서도 자성을 촉구하는 목소리가 커지자, 스캐터랩은 데이터 관리에 신중하지 못했던 점에 대해 사과문을 내고 서비스를 중단하였으며, 학습 데이터 전량을 파기하겠다고 밝혔다.
K STARTUP 테이 공식트위터 제공되는 컨텐츠 이미지 이런 사례가 처음은 아니다. 5년 전 마이크로소프트에서 20대 여성의 얼굴을 프로필로 하여 출시한 대화형 AI ‘테이’도 서비스 하루 만에 중단된 적이 있다. ‘테이’의 기계학습법을 악용한 이용자들이 혐오와 차별적 언어를 주입 학습시켰기 때문이다.
K STARTUP 게티이미지코리아 제공되는 컨텐츠 이미지 위 사례에서 보듯 이러한 부작용들이 단순히 기술의 문제가 아닌 인간의 본성에 따른 사회적 문제라는 시각도 존재한다. 카카오게임즈 남궁훈 대표는 ‘이루다’ 사태를 두고 AI가 현존하는 혐오·차별에 노출된 것으로 AI가 아닌 현 사회의 반성이 필요하다고 지적한 바 있다.
K STARTUP 게티이미지코리아 제공되는 컨텐츠 이미지 이처럼 수년 전부터 AI 기술의 빠른 진화가 인간 사회에 미치는 영향에 대한 고민이 커지며, AI 개발자와 이용자의 도덕성 그리고 올바른 데이터 처리 기준 및 절차에 대한 논의가 국내외에서 활발히 이루어지고 있다.
K STARTUP OECD 제공되는 컨텐츠 이미지 EU는 2019년 4월 ‘신뢰할 수 있는 AI를 위한 윤리지침 가이드라인’을 배포하며 AI 기술의 합법성, 윤리성, 그리고 견고함을 강조하였고, OECD도 'AI 이사회 권고안'을 회원국 만장일치로 채택했다. 미 연방거래위원회(FTC)는 2020년 4월 ‘AI와 알고리즘 이용에 대한 지침’을 발표하며 AI 활용 과정의 투명성과 소비자에 대한 설명 책무 등에 대한 기준을 제시하였다.
K STARTUP 과학기술정보통신부 제공되는 컨텐츠 이미지 우리나라 과기부도 2020년 11월 ‘국가 인공지능 윤리기준’안을 만들어 인간성을 위한 3대 기본 원칙과 10대 핵심 조건을 제시하였다. △인간의 존엄성 원칙 △사회의 공공선 원칙 △기술의 합목적성 원칙 등이 기본 원칙으로 제시됐으며, △인권 보장 △프라이버시 보호 △다양성 존중 △침해금지 △공공성 △연대성 △데이터 관리 △책임성 △안전성 △투명성 등이 충족돼야 한다고 명시했다.
K STARTUP 과학기술정보통신부 제공되는 컨텐츠 이미지 이어 과기부는 지난 2일 ‘사람 중심의 인공지능을 위한 인공지능 윤리 정책세미나’를 개최하여 각계 전문가들과 함께 국내 AI 윤리 정립을 위한 실천방안을 모색하고 주요 추진과제를 점검하였는데, 이 자리에서 네이버의 박우철 변호사는 네이버도 지난 2년간 서울대 인공지능 정책 이니셔티브(SAPI)와 함께 AI 윤리 준칙을 개발해 왔으며, 이 달 중순 공동 웨비나를 통해 발표 예정이라고 밝혔다.
K STARTUP WEF 제공되는 컨텐츠 이미지 카카오도 2018년 알고리즘 윤리 헌장을 마련한 이후 아동·청소년 보호 부문을 추가하는 등 꾸준히 보완해 왔으며, 최근에는 ‘증오발언 근절을 위한 카카오의 원칙’을 발표하기도 했다. 삼성전자도 올해 공정성, 투명성, 책임성이라는 인간에게 이로운 AI를 위한 AI 윤리 핵심 원칙을 발표했으며, AI 스피커 '누구'와 '기가지니'를 각각 서비스하고 있는 SKT와 KT도 자체적인 AI 윤리기준 제정을 추진 중이다.
K STARTUP WEF 제공되는 컨텐츠 이미지 개별 국가 및 기업 차원의 노력을 넘어 AI 윤리 문제를 함께 고민하고 해결하기 위한 국제 사회의 공조도 가시화되고 있다. 지난 달 온라인으로 개최된 다보스 어젠다 회의에서는 세계 경제인들이 모여 포괄적이고, 투명하며, 신뢰할 수 있는 AI 기술 채택을 가속화하는 것을 목표로 하는 ‘글로벌 인공지능 행동 동맹’을 구축했다.
K STARTUP 게타이미지코리아 제공되는 컨텐츠 이미지 세계경제포럼에 따르면 AI는 2030년까지 세계 경제에 15조 달러(1경 6774조원) 이상 기여할 것으로 전망되는데, 이는 세계 GDP의 14%를 차지하는 액수다. 단순 규모를 차치하더라도 의료, 입시부터 재판까지 AI의 활용 영역이 갈수록 확대됨에 따라 기술의 비윤리적 사용으로 인한 사회적 문제는 되풀이될 가능성이 크다.
K STARTUP 게타이미지코리아 제공되는 컨텐츠 이미지 실제로 이번 ‘이루다’ 사태와 같은 윤리 문제가 거듭될 경우 AI의 잠재적 위험에 대한 대중의 우려 및 기술 혐오가 확산되어, 새로운 기술 및 서비스 전반에 대한 신뢰가 저하되고, 사회 발전을 위해 꼭 필요한 혁신 노력까지도 기피되고 평가 절하되는 결과를 초래할 수 있다.
K STARTUP 4차산업혁명위원회/과기부 제공되는 컨텐츠 이미지 이를 극복하기 위해서는 사업자·이용자·정부 등 사회 구성원 모두가 AI 윤리의 중요성을 인지하고, 위에 소개된 핵심 원칙들을 기반으로 양질의 데이터 확보 및 관리, AI 윤리 전문가의 양성, 초중고 교과과정부터 이뤄지는 사용자 대상의 기술 철학 교육 등 다원적이고 구조적인 노력을 병행해야 한다는 것이 전문가들의 일치된 의견이다.
K STARTUP AI 기술의 빠른 진화 속도를 감안한 적극적인 자정 노력을 통해 새로운 기술이 제공하는 막대한 편의와 혜택을 온전히 누릴 것인지, 비윤리적 AI 시스템 활용의 방치로 영화에서 볼법한 디스토피아적인 미래에 직면할 것인지 과감한 결단과 노력이 요구된다.
디지털 경제로의 대전환 스마트 대한민국 중소벤처기업부 창업진흥원
K STARTUP 이루다 사태로 본 인공지능 윤리 중소벤처기업부 창업진흥원
K STARTUP 이루다 제공되는 컨텐츠 이미지 최근 화제가 된 대화형 AI ‘이루다’의 성희롱 및 차별·혐오 논란에 IT 업계를 비롯한 사회 각계에서 앞다퉈 의견을 개진하며 AI 윤리에 대한 관심이 고조되고 있다.
K STARTUP 이루다 제공되는 컨텐츠 이미지 AI 스타트업 ‘스캐터랩’이 출시한 이루다는 딥러닝 기술을 이용해 사람의 개입 없이 페이스북 메신저를 통해 대화 가능한 사람 컨셉의 AI 챗봇이다. 6개월 간의 베타 테스트에 약 1500명이 참여하였고, 공식 출시 이후 7천만건 이상의 누적 대화량을 기록하는 등 큰 관심을 끌었다.
K STARTUP 하지만 ‘이루다’와 동성애, 장애인, 여성에 대한 혐오 및 악의적 대화를 나눈 내용이 캡처되어 온라인 커뮤니티 상에서 공유되며 이슈화가 되었고, 그 과정에서 스캐터랩의 또 다른 서비스인 ‘연애의 과학’에서 수집한 이용자 카톡 데이터를 ‘이루다’의 학습 데이터로 활용한 사실이 드러나 논란이 가중되었다.
K STARTUP MBC뉴스 제공되는 컨텐츠 이미지 다수의 시민단체들이 공동성명을 내고 개인정보보호법 위반에 대한 조사 및 처벌을 요구한데 이어 업계 내에서도 자성을 촉구하는 목소리가 커지자, 스캐터랩은 데이터 관리에 신중하지 못했던 점에 대해 사과문을 내고 서비스를 중단하였으며, 학습 데이터 전량을 파기하겠다고 밝혔다.
K STARTUP 테이 공식트위터 제공되는 컨텐츠 이미지 이런 사례가 처음은 아니다. 5년 전 마이크로소프트에서 20대 여성의 얼굴을 프로필로 하여 출시한 대화형 AI ‘테이’도 서비스 하루 만에 중단된 적이 있다. ‘테이’의 기계학습법을 악용한 이용자들이 혐오와 차별적 언어를 주입 학습시켰기 때문이다.
K STARTUP 게티이미지코리아 제공되는 컨텐츠 이미지 위 사례에서 보듯 이러한 부작용들이 단순히 기술의 문제가 아닌 인간의 본성에 따른 사회적 문제라는 시각도 존재한다. 카카오게임즈 남궁훈 대표는 ‘이루다’ 사태를 두고 AI가 현존하는 혐오·차별에 노출된 것으로 AI가 아닌 현 사회의 반성이 필요하다고 지적한 바 있다.
K STARTUP 게티이미지코리아 제공되는 컨텐츠 이미지 이처럼 수년 전부터 AI 기술의 빠른 진화가 인간 사회에 미치는 영향에 대한 고민이 커지며, AI 개발자와 이용자의 도덕성 그리고 올바른 데이터 처리 기준 및 절차에 대한 논의가 국내외에서 활발히 이루어지고 있다.
K STARTUP OECD 제공되는 컨텐츠 이미지 EU는 2019년 4월 ‘신뢰할 수 있는 AI를 위한 윤리지침 가이드라인’을 배포하며 AI 기술의 합법성, 윤리성, 그리고 견고함을 강조하였고, OECD도 'AI 이사회 권고안'을 회원국 만장일치로 채택했다. 미 연방거래위원회(FTC)는 2020년 4월 ‘AI와 알고리즘 이용에 대한 지침’을 발표하며 AI 활용 과정의 투명성과 소비자에 대한 설명 책무 등에 대한 기준을 제시하였다.
K STARTUP 과학기술정보통신부 제공되는 컨텐츠 이미지 우리나라 과기부도 2020년 11월 ‘국가 인공지능 윤리기준’안을 만들어 인간성을 위한 3대 기본 원칙과 10대 핵심 조건을 제시하였다. △인간의 존엄성 원칙 △사회의 공공선 원칙 △기술의 합목적성 원칙 등이 기본 원칙으로 제시됐으며, △인권 보장 △프라이버시 보호 △다양성 존중 △침해금지 △공공성 △연대성 △데이터 관리 △책임성 △안전성 △투명성 등이 충족돼야 한다고 명시했다.
K STARTUP 과학기술정보통신부 제공되는 컨텐츠 이미지 이어 과기부는 지난 2일 ‘사람 중심의 인공지능을 위한 인공지능 윤리 정책세미나’를 개최하여 각계 전문가들과 함께 국내 AI 윤리 정립을 위한 실천방안을 모색하고 주요 추진과제를 점검하였는데, 이 자리에서 네이버의 박우철 변호사는 네이버도 지난 2년간 서울대 인공지능 정책 이니셔티브(SAPI)와 함께 AI 윤리 준칙을 개발해 왔으며, 이 달 중순 공동 웨비나를 통해 발표 예정이라고 밝혔다.
K STARTUP WEF 제공되는 컨텐츠 이미지 카카오도 2018년 알고리즘 윤리 헌장을 마련한 이후 아동·청소년 보호 부문을 추가하는 등 꾸준히 보완해 왔으며, 최근에는 ‘증오발언 근절을 위한 카카오의 원칙’을 발표하기도 했다. 삼성전자도 올해 공정성, 투명성, 책임성이라는 인간에게 이로운 AI를 위한 AI 윤리 핵심 원칙을 발표했으며, AI 스피커 '누구'와 '기가지니'를 각각 서비스하고 있는 SKT와 KT도 자체적인 AI 윤리기준 제정을 추진 중이다.
K STARTUP WEF 제공되는 컨텐츠 이미지 개별 국가 및 기업 차원의 노력을 넘어 AI 윤리 문제를 함께 고민하고 해결하기 위한 국제 사회의 공조도 가시화되고 있다. 지난 달 온라인으로 개최된 다보스 어젠다 회의에서는 세계 경제인들이 모여 포괄적이고, 투명하며, 신뢰할 수 있는 AI 기술 채택을 가속화하는 것을 목표로 하는 ‘글로벌 인공지능 행동 동맹’을 구축했다.
K STARTUP 게타이미지코리아 제공되는 컨텐츠 이미지 세계경제포럼에 따르면 AI는 2030년까지 세계 경제에 15조 달러(1경 6774조원) 이상 기여할 것으로 전망되는데, 이는 세계 GDP의 14%를 차지하는 액수다. 단순 규모를 차치하더라도 의료, 입시부터 재판까지 AI의 활용 영역이 갈수록 확대됨에 따라 기술의 비윤리적 사용으로 인한 사회적 문제는 되풀이될 가능성이 크다.
K STARTUP 게타이미지코리아 제공되는 컨텐츠 이미지 실제로 이번 ‘이루다’ 사태와 같은 윤리 문제가 거듭될 경우 AI의 잠재적 위험에 대한 대중의 우려 및 기술 혐오가 확산되어, 새로운 기술 및 서비스 전반에 대한 신뢰가 저하되고, 사회 발전을 위해 꼭 필요한 혁신 노력까지도 기피되고 평가 절하되는 결과를 초래할 수 있다.
K STARTUP 4차산업혁명위원회/과기부 제공되는 컨텐츠 이미지 이를 극복하기 위해서는 사업자·이용자·정부 등 사회 구성원 모두가 AI 윤리의 중요성을 인지하고, 위에 소개된 핵심 원칙들을 기반으로 양질의 데이터 확보 및 관리, AI 윤리 전문가의 양성, 초중고 교과과정부터 이뤄지는 사용자 대상의 기술 철학 교육 등 다원적이고 구조적인 노력을 병행해야 한다는 것이 전문가들의 일치된 의견이다.
K STARTUP AI 기술의 빠른 진화 속도를 감안한 적극적인 자정 노력을 통해 새로운 기술이 제공하는 막대한 편의와 혜택을 온전히 누릴 것인지, 비윤리적 AI 시스템 활용의 방치로 영화에서 볼법한 디스토피아적인 미래에 직면할 것인지 과감한 결단과 노력이 요구된다.
디지털 경제로의 대전환 스마트 대한민국 중소벤처기업부 창업진흥원
K STARTUP 이루다 사태로 본 인공지능 윤리 중소벤처기업부 창업진흥원
※ 카드뉴스 마지막 페이지에서 동영상으로도 확인하실 수 있습니다.
최근 ‘이루다’ 사태를 계기로 AI 윤리에 대한 사회 각계의 관심과 우려가 증가하고 있다.
AI 윤리 기준을 마련하고 실천하기 위한 국내외 정부 및 주요 기업들의 다양한 시도를 살펴 본다.

공공누리 공공저작물 자유이용허락 - 출처표시 본 저작물은 창업진흥원(K-Startup)이 게시한 공공누리 제1유형의 저작물이며, 공공데이터포털(www.data.go.kr)에서 공공데이터로 개방중이며 무료로 활용할 수 있습니다.

목록
TOP