지난달 22일 국회 의원회관에서 열린 국민의힘 가짜뉴스·괴담방지 특별위원회 세미나 '가짜뉴스·괴담, 무엇을 노리나? 산업이 된 가짜뉴스'에서 김장겸 특위 위원장이 개회사를 하고 있다. 연합뉴스국민의힘 김장겸 의원은 1일 인터넷 포털을 비롯한 온라인 플랫폼 사업자에 인공지능(AI) 생성물 표기를 의무화 하는 정보통신망법 개정안을 대표 발의했다.
최근 딥페이크 등 불법 AI 생성물로 인한 성범죄가 사회 문제로 대두되자 이를 막기 위해 포털과 플랫폼 등에 역할과 책임을 부여하는 내용을 골자로 한다.
법안에 따르면 일정 규모 이상의 포털·플랫폼 사업자는 AI 기술을 이용한 가상 정보 표시 기능을 제공해야 하고, 그렇지 않을 경우 1천만원 이하의 과태료가 부과된다.
아울러 정보를 게재하려는 이용자에게는 AI 생성물 표시의무를 부과하고, 표시를 임의로 제거하거나 훼손할 수 없도록 규정했다. 플랫폼 사업자는 이 의무를 이행하지 않거나 임의로 표시를 제거·훼손한 게시자에게 경고 또는 이용 정지, 수익 제한 조치를 할 수 있다.
다만 AI 기술의 사용 범위와 목적 등을 고려해 '대통령령으로 정하는 인공지능 생성물'에는 예외를 두기로 했다.
김 의원은 "법안이 통과되면 가상 정보와 실제 사실을 구분할 수 있게 돼 AI 기술을 악용한 범죄와 사회적 혼란을 방지하고 가짜뉴스 피해를 예방할 것으로 기대한다"며 "딥페이크 등 불법 AI 생성물로 국민이 고통받지 않도록 조속한 입법이 이뤄지도록 최선을 다하겠다"고 말했다.