과학기술정보통신부는 21일 "인공지능안전연구소(AI안전연구소)와 함께 국민이 안심하고 AI를 활용할 수 있도록 '정보 오류 없는 찐 AI 챌린지'를 오는 22일부터 내년 1월 21일까지 진행한다"고 밝혔다.
인공지능안전연구소는 AI의 기술적 한계와 인간의 AI 기술 오용, AI 통제력 상실 등으로 발생하는 다양한 AI 위험에 체계적·전문적으로 대응하기 위한 AI 안전 연구 전담 조직으로 지난해 11월 출범했다.
과기정통부는 "교육·의료·법률·경제 등 정확성이 핵심인 분야에서 AI 정보 오류는 이용자에게 큰 혼란과 피해를 줄 수 있는 만큼 신뢰할 수 있는 AI 이용 환경 조성을 위해 이번 행사를 추진한다"고 설명했다.
이번 챌린지는 상용화한 생성형 AI 모델이 사실과 다른 결과를 제공할 경우 국민이 이를 파악하고 그 정보 오류를 제출하면, AI안전연구소가 분야별 전문가와 함께 그 내용을 전문적으로 검증한 뒤 관련 AI 개발사나 AI 서비스 제공업체에 개선을 요청하는 방식으로 운영되는 국민 참여형 AI 안전·신뢰 캠페인이다.
대한민국 국민이면 누구나 네이버폼 또는 이메일을 통해 의견을 제출할 수 있다. 참여자는 AI가 생성한 정보 오류 내용에 대한 화면을 캡처해 개인 SNS에 #AI팩트체크 해시태그와 함께 게시하고 그 링크를 제출하면 된다.
제출된 의견은 유효성 검증(적격성 검토, 검증 시점 기준 재현 검증, 최종 판정 등)과 오류 사례 개선 권고안 작성, AI 기업 통보를 거치게 된다. 과기정통부는 관련 AI 기업과 협의를 통해 정보 오류 결과가 알고리즘 개선이나 데이터 정비 등으로 이어지도록 조치할 예정이다.
캠페인 종료 후에는 추첨을 통해 선정된 유효한 의견 제출자 약 200명에게 3만 원 상당 모바일 상품권이 증정된다.
과기정통부는 "이번 행사는 국민과 함께 신뢰할 수 있는 AI 환경을 만들기 위한 중요한 첫걸음이 될 것"이라고 강조했다.