챗GPT 생성 이미지세종의 한 고등학교에서 학생들이 수행평가 도중 인공지능(AI)을 활용한 집단 부정행위가 있었던 것으로 확인됐다. 지난해 유수의 대학들에서도 잇달아 AI를 활용한 부정행위가 적발되면서 논란이 불거졌는데, 고등학교에서도 유사한 사례가 발견되면서 관련 대응책이 시급하다는 지적이 나온다.
고교생들 '생성형 AI'로 '집단 부정행위' 적발
16일 더불어민주당 박성준 의원실이 교육부로부터 받은 자료에 따르면, 지난해 10월 세종시 소재 A고등학교에서 태블릿 PC로 서술형 글쓰기 수행평가를 진행하던 중 다수 학생들이 생성형 AI를 활용해 답안을 작성한 것으로 확인됐다.
당시 감독 교사가 이 사실을 적발해 AI로 부정행위를 했던 학생들은 평가활동 규정에 따라 모두 '기본 점수'를 받았다고 한다.
지난해 11월 인천의 한 고등학교에서도 1학년 한국사 수행평가 중 부정행위가 확인됐던 것으로 알려졌지만, 교육부 조사 결과 AI를 실시간으로 활용해 부정행위를 저질렀던 사례는 아닌 것으로 확인됐다.
물론 아직 중·고등학교에서 AI가 악용된 부정 시험 사례는 많지 않다. 최근 3년간 시도별 학생 평가 중 AI 부정행위 사례로 공식 확인된 사례는 A고등학교에서 일어난 부정행위, 딱 한 차례였다.
대부분은 이른바 '오픈북'이나 온라인 평가가 자주 진행되는 대학가에서 발생했다. 지난해 10월 서울대 한 교양 과목 중간고사에서 강의실 컴퓨터로 시험을 치르던 중 일부 학생이 AI를 이용한 사실이 알려졌다. 고려대와 연세대에서도 지난해 온라인 퀴즈 시험이나 비대면 강의 시험에서 생성형 AI를 이용한 부정행위가 적발됐다.
그러나 AI 부정행위가 대학을 넘어 고등학교에서도 발견된 만큼 관련 대책이 시급하다는 지적이 나온다. 박성준 의원은 "대학뿐만 아니라 초·중·고교에서도 시험과 과제에서 AI 부정 사용이 적발되고 있어 교육과정 운영의 취지와 학습 평가의 공정성이 훼손되고 있다"며, 이어 "교육부는 AI 부정 사용과 관련한 현장의 혼란을 줄이기 위해 명확한 기준을 조속히 마련해야 한다"고 강조했다.
교육부·대학 '가이드라인' 마련 분주…"학생 관점서 AI 부정 규정해야"
교육부는 지난달 시도교육청과 함께 마련한 '수행평가 시 AI 활용 관리 방안'을 발표했다. 교육부와 시도교육청이 만든 방안에 따르면 학교는 수행평가 중 AI 활용 가능 여부를 명확히 구분하고 AI 활용을 허용할 경우 범위에 대한 구체적 기준을 마련해야 한다. 또 학생이 자료 탐색 등을 위해 AI를 활용한 경우 수행평가 결과물에 AI 활용 범위와 내용, 출처를 표기하도록 해야 한다.
교육부에 따르면 이번 방안은 AI를 일률적으로 금지하기보다 AI 기술이 안전하고 교육적으로 활용하도록 하는 데 주안점을 뒀다. 또 교육부는 과학기술정보통신부와 공동으로 '학교에서의 안전한 AI 도입·활용을 위한 가이드라인' 마련을 위한 정책연구를 추진 중이며 정책연구를 바탕으로 가이드라인을 마련해 오는 3월에 안내할 예정이다.
대학가도 AI 가이드라인 마련에 분주하다. 먼저 고려대는 지난 6일 학생·교수 등에게 AI 활용 범위와 출처 표기 등 구체적 지침을 담은 'AI 활용 가이드라인'을 새롭게 배포했다. 2023년 ''챗GPT 등 AI의 기본 활용 가이드라인'을 제정한 이후 새로운 가이드라인을 만든 것이다. 서울대는 지난 1일 '서울대학교 AI 가이드라인'을 제정하고, AI의 창의적인 활용을 장려하면서도 윤리적 문제를 최소화하기 위한 원칙을 세웠다. 연세대는 2024년 5월 '생성형 AI 활용 가이드라인'을 마련했으며 지난해 9월 '교수자·연구자를 위한 생성형 AI 활용 지침'을 발표했다.
전문가들은 AI에 대한 학생들의 관점은 기성세대와는 다르기 때문에 AI를 활용한 부정행위가 무엇인지에 대한 규정부터 먼저 정립할 필요가 있다고 조언한다.
김명주 인공지능안전연구소장은 "학생들과 기성세대는 AI를 바라보는 시각이 완전히 다르다. 학생들은 AI를 부담 없는 장난감처럼 다루고 있는데, 기성세대는 심각한 도구로 본다"며 "'이 시험은 AI의 도움을 받지 않고 스스로 알고 있는 것을 테스트하는 것'이라고 사전에 학생들과 약속을 해야 한다. 물리적으로는 인터넷을 차단하는 등의 조치를 할 수 있지만 그것은 학생들을 못 믿는 방법이기 때문에, 학생들이 부정행위 기준을 명확하게 인지하고 따르도록 하는 것이 교육적인 방법"이라고 설명했다. 그러면서 "교육 당국에서 선생님 혼자가 아닌 학생들 시선에서 AI 부정행위의 기준을 찾아 가이드라인을 마련해주는 것이 좋다"고 덧붙였다.
가천대학교 법학과 최경진 교수(한국인공지능법학회장)도 "기성세대 관점에서 부정행위인지 아닌지만 논의할 것이 아니라 교육 현장에서의 AI 부정행위가 어떤 것인지를 고민해야 한다"며 "평가자(교사 등)는 시험을 볼 때 학생의 AI 활용 가능성까지 미리 생각해 활용 범위를 안내해야 하고, 학생의 경우 시험을 보는데 AI에 과도하게 의존하게 되면 결국 본인의 지식이 되지 못한다는 점을 주의해야 한다"고 분석했다. 또 "AI 시대에 인간의 사고력을 높이면서 AI의 효율성도 높이는 방법을 같이 고민해, 교육 현장에서의 기준을 구체적으로 만들어야 한다"고 설명했다.