AI 챗봇 '이루다'의 차별·혐오 발언 등으로 논란이 증폭되는 가운데, 증오 발언 근절을 위해 기업이 원칙을 제정해 적용하는 것은 카카오가 국내에선 처음이다.
게다가 이번 발표는 김범수 카카오 이사회 의장이 산하 환경, 사회, 지배구조(ESG)를 담당하는 ESG위원회를 신설한 이후 첫 행보인만큼 더욱 주목되고 있다.
카카오는 13일 공식 브런치에서 '증오발언 근절을 위한 카카오의 원칙' 4가지를 발표하며 카카오 플랫폼 내 온라인 차별·증오 발언에 강경 대처하겠다고 발표했다.
카카오는 "온라인 증오발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 대해 국내외 공감대가 넓어지고 있다"며 "카카오 역시 사회의 구성원으로서, 디지털 공간을 보다 건강하게 만들기 위한 증오발언 대응 원칙을 수립했다"고 밝혔다.
이어 표현의 자유를 남용해 타인의 안전을 위협하는 발언을 경계하기 위한 네 가지 원칙을 제시했다.
그리고 두번째 원칙을 통해 "이러한 차별에 기반해 특정인과 특정집단을 공격하는 발언을 증오발언으로 정의하고, 강경하게 대처하겠다"고 예고했다.
세번째 원칙에선, 이용자들에게도 주의를 당부했다. "카카오 서비스 내 공개된 공간에서 특정인과 특정 집단에 대한 폭력을 선동하거나, 인간의 존엄성을 훼손하는 발언에 유의해야 한다"면서 "이용자는 타인의 존엄성과 안전을 위협하지 않는 한 공공정책이나 자신의 신념 등에 자유롭게 의견을 개진할 수 있다"고 설명했다.
마지막 네번째로는 "증오발언 근절을 위해 정책, 기술, 서비스 기획 및 디자인을 고도화하고, 사내교육과 모니터링을 강화해 내부로부터 차별과 증오발언을 경계한다"고 강조했다.
다만, 이 같은 원칙은 공개 게시물 영역에만 해당된다. 비공개 게시글에는 적용되지 않는다는 것이 카카오 측의 설명이다.
카카오의 증오 발언 근절 원칙 수립 과정에는 카카오 미디어자문위원회, 시민사회 전문가, 국가인권위원회, 한국언론법학회 등이 참여했다.
카카오는 보통 '혐오 발언'이라고 번역하는 'hate speech'를 증오 발언으로 표현한 이유 등에 관해 어떤 숙의 과정을 거쳤는지 공식 블로그에 공개했다.
이처럼 디지털 공간 내 문제를 해결하려는 노력은 카카오의 ESG(환경·사회·지배구조) 활동의 일환이다. 카카오는 전날 이사회 산하에 ESG위원회를 신설하고 김범수 이사회 의장이 위원장을 맡는다고 밝혔다.