X
과학기술정보통신부는 인공지능안전연구소와 함께 국민이 안심하고 인공지능(AI)을 활용할 수 있도록 하는 참여형 캠페인인 ‘정보 오류 없는 찐 AI 챌린지’를 22일부터 다음 달 21일까지 한 달간 진행한다고 밝혔다.
이번 캠페인은 생성형 AI 서비스 이용 과정에서 사실과 다른 답변(이른바 ‘할루시네이션’)을 국민이 직접 찾아 제보하고, 이를 통해 AI 서비스의 정확성과 신뢰성을 높이겠다는 취지다.
네이버 폼·이메일로 제보…사실 검증 가능한 오류만 대상
제보는 과기정통부와 인공지능안전연구소가 개설한 네이버 폼 또는 전용 이메일을 통해 접수할 수 있다.
제보자는 △오류가 발생한 AI 서비스 명칭 △질문 내용과 AI의 답변 △사실과 다르다고 판단한 구체적 내용 △이를 뒷받침할 수 있는 근거 자료(공신력 있는 출처 등)를 함께 제출해야 한다.
제출 대상은 객관적으로 검증 가능한 사실 오류로 제한된다.
구체적으로는 ▲역사·연도·지명·인물 등 기초 사실 ▲과학·기술 분야의 검증된 이론이나 연구 결과 ▲법령·제도·행정 절차 정보 ▲공공기관이나 국제기구가 발표한 통계·경제지표 등에서의 오기·왜곡·부정확한 설명이 해당된다.
개인적 의견이나 가치 판단, 해석이 갈릴 수 있는 내용은 제보 대상에서 제외된다.
접수된 제보는 인공지능안전연구소가 분야별 전문가와 함께 사실 여부를 검증한 뒤, AI 개발사 또는 해당 서비스를 운영하는 사업자에게 개선을 요청하는 방식으로 후속 조치가 이뤄진다.
AI 개발사에 ‘개선 요청’…강제성 없는 구조는 과제
다만 이번 챌린지는 법적 제재나 의무 조항이 아닌 자율 개선 요청에 기반하고 있다는 점에서 실효성에 대한 과제도 함께 제기된다.
AI 개발사나 서비스 제공업체가 오류를 통보받더라도, 이를 반드시 수정해야 할 법적 책임은 없다. 개선 여부와 속도는 각 기업의 내부 판단에 맡겨진다.
그럼에도 정부는 이번 캠페인이 ▲반복적으로 발생하는 오류 유형을 체계적으로 수집하고 ▲국내 AI 서비스의 취약 분야를 가시화하며 ▲향후 AI 신뢰성·안전성 기준 마련을 위한 기초 데이터로 활용될 수 있다는 점에서 의미가 크다고 보고 있다.
특히 일반 이용자가 직접 참여하는 방식은 전문가 중심의 기술 검증을 넘어 ‘이용자 관점의 신뢰성 점검’이라는 점에서 정책적 실험 성격도 갖는다.
향후 AI 기본법 시행과 연계해 정확성·투명성 평가 체계로 발전할 가능성도 거론된다.
참여자 인센티브 제공…AI 신뢰 환경 조성 첫걸음
캠페인 종료 후에는 유효한 제보를 제출한 참여자 중 200명을 추첨해 3만원 상당의 모바일 상품권이 제공된다. 과기정통부는 이를 통해 국민 참여를 유도하고, AI 오류 문제에 대한 사회적 관심을 높인다는 계획이다.
이진수 과기정통부 인공지능정책기획관은 “AI 기본사회로 나아가기 위해서는 국민이 AI를 안심하고 정확하게 사용할 수 있는 환경 조성이 무엇보다 중요하다”며 “이번 챌린지가 국민과 함께 신뢰할 수 있는 AI 환경을 만드는 첫걸음이 되기를 기대한다”고 말했다.