■ 방송 : CBS 라디오 <김현정의 뉴스쇼> FM 98.1 (07:10~09:00)
■ 진행 : 김현정 앵커
■ 대담 : 김덕진 (IT커뮤니케이션연구소장)

◇ 김현정> 여러분, AI를 어떻게 사용하고 계십니까? 손쉬운 검색 서비스 정도로 사용하는 분도 많지만 더 나아가서는 이미지나 영상 만들고 프로그램 코딩에 쓰는 분들도 많고요. 요즘에는 AI하고 대화를 하면서 스트레스 푼다, 고민 상담한다, 조언 구한다. 이런 분들도 굉장히 많습니다. 그런데요 대표적인 AI 서비스 챗GPT를 서비스하는 오픈 AI 사에서 그동안 제한해 왔던 성인 대화, 이른바 19금 대화를 가능하도록 이렇게 규정을 바꿨습니다. 그 밖에도 감정 교류, 실제 인물의 외모 변환 이런 딥페이크 수준의 영상 생성까지 지금까지 윤리적인 이유로 제한되었던 걸 다 풀겠다는 겁니다. 이거 괜찮을까요? 오늘 한번 생각해 보고 싶어서 이분 모셨습니다. IT커뮤니케이션 연구소의 김덕진 소장님, 어서 오십시오.

◆ 김덕진> 안녕하세요, 반갑습니다. 김덕준입니다.

◇ 김현정> 성인 대화, 19금 대화라는 게 도대체 어떤 걸 얘기하는 건가요?

◆ 김덕진> 그러니까 이렇게 이야기하면 좋을 것 같아요. 우리가 어떤 제한 없는 대화를 할 수 있다고 생각하시면 될 것 같습니다.

◇ 김현정> 방송이라서 예를 들 수가 없는 게 좀 답답한데.

◆ 김덕진> 그냥 편하게 얘기하면 챗GPT한테 일단 첫 번째 욕설을 쓰거나 뭔가 우리가 어떤 생각의 범위를 넘어가게 되면 지금 AI는 제대로 답변을 안 하거나 아니면 뭔가 받아치는 욕설 같은 건 하진 않아요.

◇ 김현정> 그러니까 야한 대화 이런 것만 얘기하는 게 아니라 욕설 XX이러면 그냥 대답을 안 해요?

◆ 김덕진> 그러니까 정확하게 말하면 대답을 하더라도 AI가 같이 욕을 받아쳐 주진 않아요. 그러니까 정확하게 말하면 삐삐삐 이러면 그렇구나. 이러지 얘가 먼저 이렇게 받아쳐 주지 않는데 예를 들면 우리가 막 일상에서 막 친구들끼리 얘기를 할 때 내가 막 욕설로 얘기하면 저 친구도 막 저한테 욕을 섞으면서 막 얘기하기도 그렇잖아요.

◇ 김현정> 그렇죠.

◆ 김덕진> 그런 대화 같은 게 다 지금 제한이 돼 있거든요.

◇ 김현정> 욕설 대화 제한돼 있고 또 19금 대화가 어떤 건가요?

◆ 김덕진> 그다음에 말씀하신 성인용 대화 같은 거죠. 그리고 또 그 외에도 일종의 음모론적인 대화라든지 그러니까 어떻게 보면 뭔가 우리가 어떻게 보면 AI가 이야기를 했을 때 뭔가 미성년자가 들었을 때는 약간 가치 판단에 대한 조금 어려움이 올 수도 있는 이런 것들 있잖아요. 그런 요소들이 지금은 다 어느 정도에 막혀 있어요.

◇ 김현정> 그것도 안 돼요.

◆ 김덕진> 그러니까 정확하게 말하면 지금의 생성형 AI 특히 대표적으로 챗GPT는 되게 올바른 이야기 그리고 올바른 답변 혹은 조금 문제가 되면 안 되는 답변들만 많이 하고 있거든요. 근데 이런 것들을 12월부터 다 풀겠다. 성인 인증된 사람들에게는 성인이 성인에게 자유로움을 주듯이 그런 식으로 하겠다고 하는 게 이번에 샘 알트만의 입장이다. 이렇게 보시면 될 것 같습니다.

◇ 김현정> 마약이나 이런 것 관련된 대화도 지금까지는 금지였죠.

◆ 김덕진> 그렇죠. 그런 것들도 대부분이 다 막혀 있는 부분들인데 일종의 뭐라고 그러죠? 프롬프트를 우회한다거나 그런 형태로 해서 역으로 조금 할 수 있게도 할 수 있었어요. 근데 그런 거를 하기 위해서는 되게 많이 유도를 했어야 됐거든요. 근데 그게 아니라 그냥 AI가 어떠한 현상이 되면 이야기하는 이런 것들이 이제 나오게 된다고 보시면 될 것 같습니다.

◇ 김현정> 저희가 지금 한 예시를 좀 들어봤는데 조금 이렇게 불러 처리를 했어요. 흐리게 처리했습니다만 예를 들면 이런 식인 거예요. 봉지를 가리키면서 저건 뭐야? 이게 마약 봉지인 거예요. 이런 식으로 하면은 이 챗GPT가 지금까지는 마약과 관련된 대화면 일절 답을 안 했는데 이제는 답을 한다는 거예요. 봉지를 살짝 뜯어, 테이블에 뿌리고 손끝으로 비비적거려. 이런 식으로, 이게 지금까지 다른 AI사에서는 그러면은 이 19금 대화를 허용한 곳도 있었습니까?

출처 중앙일보
◆ 김덕진> 지금도 보여주시고 있는데 정확하게 AI 관련 서비스들이 두 가지 형태로 있어요. 챗GPT처럼 여러 가지 대화를 그냥 범용으로 하는 게 있고 두 번째는 요즘에 유행하는 건데 캐릭터 챗이라고 그래서 제가 어떠한 설정한 캐릭터와의 대화를 깊게 하는 이런 응용 서비스들이 있습니다. 그런데 지금 보여주셨던 건 그 후자의 서비스 중에 하나인데요. 결국에는 사람들이 어떠한 내가 원하는 캐릭터 설정을 해놓으면 그 캐릭터와 아주 깊은 대화까지 할 수 있는 거예요. 그런데 이게 비즈니스 구조적으로 사람들이 빠져들 수밖에 없는 게 두 가지 이런 캐릭터 대화들은 설정이 돼 있거든요. 첫 번째로는 제가 무료 버전을 썼을 때랑 유료 버전을 썼을 때랑 답변의 깊이가 달라요. 그러니까 예를 들면 야한 이야기를 하는 챗봇이라고 하면 무료로 썼을 때 되게 가벼운 얘기만 하다가 유료로 하면 언어 모델의 버전이 좋은 걸 써서 깊이 이야기하는 구조도 있고요. 또 최근에는 저런 걸 마치 유튜브 크리에이터처럼 전문적으로 프롬프트를 만드는 사람들에게 저기에서 나오는 수익의 일부를 이제 셰어해 주는 모델들도 있거든요. 그러니까 어떻게 보면 저런 프롬프트를 만드는 사람들은 자기 캐릭터와 더 많이 대화를 해야 돈을 벌 수 있잖아요. 그러니까 조금 더 어떤 깊은 대화가 될 수 있도록 유도하는 방식 이런 것들이 이제 캐릭터 챗이 있고요.

◇ 김현정> 캐릭터 챗이라고 하면 제가 그 AI한테 너는 지금부터 나의 노예가 돼줘. 이런 식으로 부여를 한다는 거예요? 캐릭터를?

◆ 김덕진> 그렇죠. 그런 것들을 보통은 말씀하신 범용 챗봇, 우리가 말하는 챗GPT나 클로나 이런 거는 역할극을 줘야지만 그렇게 되는 건데 아예 그거에 특화된 서비스도 있어요. 예를 들면 글로벌로 치면 캐릭터 AI나 레플리카 같은 서비스들인데 그런 서비스는 아예 서비스 화면에 말씀하신 대로 예를 들면 이런 이야기가 좀 민망하긴 하지만 나를 사랑하는 노예 이런 식으로 해서 누르면 처음부터 대화를 그 캐릭터의 형태로 하는 거예요.

◇ 김현정> 아예 보기가 있군요.

◆ 김덕진> 그렇죠. 그러니까 예를 들면은 우리로 치면 예전에 웹소설 같은 거 많이 보는데 그 주인공이 내가 되는 거예요, 쉽게 말하면. 그렇게 해서 대화를 하니까 빠져드는 형태가 있고요. 그다음에 또 최근에 성인 모드가 이게 풀려서 좀 이슈가 됐던 게 그록이라는 서비스가 있어요. 그록은 일론 머스크가 만드는 X에서 만드는 AI 챗봇 그러니까 채팅 서비스입니다. 근데 그록도 챗GPT랑 되게 비슷하거든요. 그런데 여기에 최근에 성인용 모드가 들어와서 사람들이 상당히 이슈가 됐는데 어떤 성인용 모드가 들어왔느냐, 단순한 대화에서 아예 여기는 내가 대화하는 음성 캐릭터 챗을 설정할 수가 있어요. 근데 설정을 어떤 식으로 하느냐, 단순히 아까처럼 너는 누구야가 아니라 모든 말을 어떻게 할지를 정할 수 있습니다. 예를 들면은 상담자가 될 거냐 아니면 뭐 예를 들면 스토리 텔러가 될 거냐 이런 일반적인 것들도 있는데 18금 쪽으로 가면 예를 들면 약간 뭐 미친 사람이 항상 대화하는 것 같은, 혹은 섹시한 사람이 계속 대화하는 것 같은 이런 것도 있고요. 심지어 모티베이션이라고 그래서 이런 챗봇도 있어요. 그러니까 운동을 예를 들면 격려를 할 때 트레이너들이 그냥 운동 열심히 하세요 이럴 수도 있지만 막 욕을 섞으면서 야 너 이것도 못 해? 막 이럴 수도 있잖아요. 그런 식의 캐릭터들이 나와서 대화를 하니까 어떻게 보면 사람들이 좀 빠져드는 이런 형태의 것들도 좀 나오고 있다. 이렇게 말씀드릴 수 있을 것 같습니다.

◇ 김현정> 지금까지 오픈 AI사에서 운영하는 챗GPT는 그런 대화를 허용하지 않았던 거죠.

◆ 김덕진> 그렇죠,

◇ 김현정> 그러니까 윤리적인 측면에서 거기까진 가면 안 된다는 선을 그어 놨던 건데 챗GPT, 가장 많은 사람들이 사용하는 AI인 챗GPT사에서 이걸 풀기로 한 이유는 뭡니까?

◆ 김덕진> 어떻게 보면 뭐 여러 가지 이야기를 하지만 냉정하게 말하면 비즈니스의 구조나 원리라고 보시면 될 것 같아요.

◇ 김현정> 쉬운 말로 하면 돈 벌려고?

◆ 김덕진> 그렇죠. 왜냐하면 이번에 오픈 AI가 얘기했었던 것 중에 상당히 좀 임팩트 있었던 게 사람들이 말씀하신 것처럼 12월에 이걸 풀겠다 이랬더니 전 세계에서 너무 여파가 클 것 같다, 이거 괜찮냐. 이렇게 얘기를 했거든요. 그랬더니 오픈AI에 샘 알트만이 뭐라고 그랬냐면 우리는 도덕 경찰이 아니다.

◇ 김현정> 우리한테 너무 많은 도덕성 요구하지 말아라.

◆ 김덕진> 예, 도덕 경찰이 아니다. 이렇게 얘기했는데 그러니까 사람들이 약간 예를 들면 투자자들은 그래, 돈을 버는 쪽으로 가는구나라고 했지만 약간 배신감을 느낀 사람들은 오픈 AI가 처음에 뭔가 이렇게 세상을 바꾸겠다, 비영리로 해서 모든 사람에게 득을 주겠다. 이렇게 얘기를 했는데 거기서 이제 도덕 경찰이 아니라고 얘기한 건 그래 너네 정확하게 돈 벌고 비즈니스 하겠구나라는 어떤 방향성에 대한 선포라고 볼 수 있을 것 같고요. 근데 그도 그럴 게 원래 오픈 AI를 만든 샘 알트만이 기본적으로 비즈니스맨이고 그리고 창업가들을 키웠었던 어떤 액설레이터 출신이란 말이에요. 그러니까 어떻게 하면 돈을 버는지에 대한 비즈니스를 잘 알고 있는 사람이기 때문에 그런 상황에서 후발주자들이 계속 이런 성인용 버전을 풀면서 어떻게 보면 치고 올라오고 있는 상황이에요. 그러면 전 세계에서 가장 많은 회원 수를 가지고 있는 오픈 AI 우리도 못 할 거 없어 우리 그 대신에 우리는 성인용에 대한 인증만 강하게 할 거니까 그렇게 해서 자유로운 대화를 할 수 있게 해 줄게라는 건 어떻게 보면 하나의 수순이었다. 이렇게도 볼 수 있을 것 같습니다.

류영주 기자

◇ 김현정> 우리는 대신 인증은 철저하게 할 거야. 성인인지 아닌지는 가릴 거야. 이거 상식적으로 이 기술적으로 가능해요?

◆ 김덕진> 기술적으로 지금 오픈AI에서 얘기하는 거는 일단은 우리가 번호 인증 비슷하게 완전한 개인 인증을 넣을 것이다. 카드 인증이나 이런 걸 넣을 것이다. 하나 있었고요. 두 번째 이게 제대로 되면 이게 좋을지 안 좋을지 솔직히 모르겠어요. 대화의 패턴을 기반으로 해서 지금 대화하는 사람이 미성년자인지 아닌지 구분하는 기술을 우리가 연구하고 있다.

◇ 김현정> AI가?

◆ 김덕진> 예.

◇ 김현정> 미성년자가 성인인 척하고 인증해서 하는 건지 아닌지도 가려낼 수 있다?

◆ 김덕진> 예, 그런 것들을 연구하고 있고 실제로 그렇게 됐을 때 만약에 이 사람이 미성년자라고 판단이 됐을 때는 대화의 수위를 낮춘다거나 아니면 뭔가 극단적인 얘기를 하면은 그 부분에 있어서 통지를 한다거나 이런 얘기를 할 것이라고 지금 얘기를 같이 하고 있는 상황입니다.

◇ 김현정> 성인이라는 게 확실히 인증이 돼서 뭐 성인들의 야한 성적 대화하는 것까지야 그렇다 치더라도 문제는 영상 같은 걸 만들다가 딥페이크 영상, 성적인 딥페이크 뭔가 비윤리적인 딥페이크 영상을 만드는 이런 단계까지 가버리면 어떡하나 이런 걱정도 되네요.

◆ 김덕진> 이미 지난주 지지난주에 전 세계가 한번 이 AI 쪽 사람들한테 난리가 한 번 난 적이 있어요. 말씀드렸던 일론 머스크가 만든 그록이라는 서비스에서 스파이시 모드라는 걸 갑자기 만들었거든요.

◇ 김현정> 뭡니까?

◆ 김덕진> 쉽게 말하면 사진 넣고 스파이시 누르면 알아서 얘가 그냥 성인용 영상으로 만들어 버리는 거예요.

◇ 김현정> 무슨 영상이든 넣으면?

◆ 김덕진> 이미지 같은 걸 넣으면, 예를 들어서 뭔가 캐릭터를 넣으면 캐릭터가 갑자기 스파이시를 누르는 순간 벗는다던가 이런 것들이 그냥 너무 아무렇지 않게 그냥 클릭만 하면 나오고요. 거기에 맞는 효과음이나 내용들까지 나오니까 뭔가 프롬프트를 자세히 쓸 필요도 없어요. 이런 것들이 좀 이슈가 됐었고 심지어 이제 내가 상상하는 어떤 내용들을 넣으면 그 내용에 대해서 여러 이미지가 나오고 버튼 누르면 또 영상 만들어지고 이게 좀 이슈가 됐고요.

◇ 김현정> 이슈가 되는, 이건 문제 아니에요? 예를 들어서 무슨 만화 주인공을 넣어서 이걸 벗게 해줘. 이 정도가 아니라 내 친구의 사진을 넣고 이걸 가지고 그렇게 만들어줘. 이렇게 가버리면 어떡해요?

◆ 김덕진> 충분히 그럴 요소가 있죠. 그래서 지금은 업로드한 거, 그러니까 뭔가 AI로 처음부터 만든 거를 영상화하는 거 말고 사진을 올려서 그거를 완전히 빠르게 성인용 모드로 바꾸는 거는 며칠 전에 차단이 되긴 했어요. 근데 그럼에도 불구하고 한 2~3주 정도 그런 여러 가지 트라이드를 사람들이 할 수 있게 열어놨었기 때문에 어떻게 보면 AI는 학습을 했지만 말씀하신 그 몇 주 동안에 누군가는 그런 딥페이크 영상을 쉽게 만들었을 수도 있다. 이렇게 볼 수도 있는 것이죠.


◇ 김현정> 이 흐름에 대해서 김덕진 소장님은 어떻게 보십니까?

◆ 김덕진> 저는 두 가지로 볼 수 있을 것 같은데 비즈니스적으로 지금 모든 AI 회사들이 계속적으로 돈을 벌어야 되는 상황이 됐어요. 왜냐하면 너무나도 많은 투자를 받았고 계속적으로 돈을 까먹고 있거든요. 그렇기 때문에 이런 성인용 모드에 대한 변화들은 계속적으로 생길 수밖에 없다고 볼 수 있을 것 같고요. 그렇다면 말씀하신 대로 우리가 실제로 이러한 서비스를 어떻게 받아들이고 정책과 규제가 빠르게 움직여야 되는 부분이 있습니다. 그리고 저는 이것보다 더 중요한 건 이걸 받아들이는 우리들이 바뀔 것 같다는 게 저는 되게 중요할 것 같아요. 그러니까 뭐냐 하면 이게 성인용이냐 야하냐 위험하냐가 아니라 이렇게 마치 막 욕설도 섞고 야한 대화도 하는 이런 AI랑 우리가 너무 일상적으로 대화를 하기 시작하면 과연 우리는 사람하고 대화하는 게 편할까, 아니면 AI랑 대화하는 게 편할까라는 걸 잘 생각을 해 봐야 됩니다. 왜냐하면 이 성인용 모드가 성인용으로 끝나는 게 아니라 최근에 AI 회사들이 여기다 여러 가지 서비스를 붙이고 있거든요. 예를 들면 이미 오픈 AI가 쇼핑이나 아니면 인터넷 검색이나 내용들을 챗GPT 안에서 다 하게 하고 있어요.

◇ 김현정> 쇼핑도요?

◆ 김덕진> 예, 미국에서는 이미 결제까지 붙었습니다. 카드 결제까지.

◇ 김현정> 진짜요?

◆ 김덕진> 그러면 생각을 해보면 예전에는 AI한테 되게 일상적인 대화로 쇼핑을 했는데 욕도 하고 야한 얘기도 하는 내 애인 같거나 내 친구 같은 애들이 물건 사라고 얘기하는 거예요. 야, 삐발 너 이것 좀 사봐. 이러거나 자기야, 나 오늘 이런 거 하고 싶은데 이거 콘텐츠 좀 같이 보자. 이렇게 얘기를 하기 시작하면 과연 우리는 사람하고 대화하는 게 편할까 아니면 이들이 만들어 놓은 정말 사람 같은 AI랑 계속적으로 대화를 하면서 콘텐츠도 소비하고 돈도 쓰면서 이 안에 락인이 될까라는 걸 저는 더 큰 관점에서 생각을 해 봐야 된다. 그래서 나를 더 오랫동안 기억하고 나의 맥락도 알고 대화도 나에게 맞춤형으로 해 주면서 쇼핑도 하고 뭐도 하는 애랑 계속 대화를 하면 과연 사람들은 나에게 정말 싫은 소리 안 하고 내가 얘기하는 거 다 받아주면서 나에게 맞춤으로 대화하는 이 녀석에게 빠질까 아니면은 내가 가서 싫은 소리 들으면서 사람하고 대화를 할까라는 게 되게 중요할 것 같고요. 그리고 그 안에서의 비즈니스 모델들 그러니까 결국엔 다 돈 벌려고 이들의 모형이니까 그걸 잘 좀 봐야 되는 부분이 있다 이렇게 말씀드릴 수 있을 것 같습니다.

◇ 김현정> 인간의 커뮤니티, 사회 구조 자체를 흔드는 일이 될 수도 있겠네요. 이게 단순히 야한 얘기 위험한 얘기해도 괜찮아요. 이 정도 차원이 아니네요. 구조 자체가 바뀔 수 있다. 굉장히 중요한 부분 지적해 주셨습니다. 여기에 대해서 우리는 어떻게 해야 될 것인가, 어디까지 허용하고 어디까지 제한해야 될 것인가에 대해서 진지하게 좀 고민해야 될 것 같고요. 사실은 요새 아첨하는 AI도 이슈잖아요. 이 얘기 한 1분 남았는데 AI가 너무 착해. 뭘 물어보든 무슨 얘기를 하든 아우 잘하셨어요, 아우 좋은 질문이에요. 이거 문제 있다는 연구 나왔다면서요.

◆ 김덕진> 좋은 얘기가 아니라 쉽게 말하면 이런 것도 합니다. 밤에 나 라면 먹었어, 어떡해. 그러면 정말 대단한 결정이세요, 정말 용기 있는 선택입니다. 이런 식으로 얘기를 하거든요.

◇ 김현정> 얘네들 무조건 그렇게 얘기하던데요.

◆ 김덕진> 근데 요즘에 이게 너무 심하니까 챗GPT에서도 아첨이 너무 심한 AI를 예전 버전으로 돌리는 경우도 있어요. 근데 그게 왜 그러냐면 인간하고 똑같습니다. 인간도 어떻게 보면 부장님한테는 정답이고 우리 대리한테는 오답이고 막 이런 것처럼 왜냐하면 이 AI가 처음에 나온 걸로 끝나는 게 아니라 계속 학습을 하거든요. 근데 학습하는 패턴이 인간이 대화를 할 때 이거 좋아, 이거 싫어하는 피드백에 따라서 계속 학습을 해요. 그러니까 결국에는 처음에 나온 AI가 갈수록 사회화가 되고 있다. 인간처럼 되고 있다는 현상이 심해서 오히려 그런 것들을 통제해야 된다는 것들이 나오는 이런 연구들이 좀 나오고 있다 이렇게 말씀드릴 수 있을 것 같습니다.

◇ 김현정> 아첨하는 AI 얘기 너무 재밌는데, 한 3분만 우리도.

◆ 김덕진> 보니까 뒤에 댓꿀쇼 있으시던데.

◇ 김현정> 이 얘기 3분만 하고 또 한칼 토론 넘어가죠. 잠시만요, 소장님. 고맙습니다.

◆ 김덕진> 감사합니다.

* 인터뷰를 인용보도할 때는 프로그램명 'CBS라디오 <김현정의 뉴스쇼>'를 정확히 밝혀주시기 바랍니다.