X
인터넷 댓글
소셜미디어(SNS)에서 보이는 '좋아요'와 댓글의 상당수가 실제 사람이 아닌 인공지능(AI)과 봇 계정에 의해 조작되고 있는 것으로 드러났다.
카이스트 연구팀은 "생성형 AI를 활용하면 몇 시간 안에 수십만 개의 댓글을 만들어낼 수 있다"며 자동화 조작의 심각성을 경고했다.
특히 인간이 AI가 작성한 댓글을 실제 사람의 댓글로 오인하는 비율이 67%에 달하는 것으로 조사됐다.
250만원에 팔로워 30만명 조작…대규모 사례 적발
최근 보도에 따르면 월 10만 원대 비용으로 수만 건의 댓글과 '좋아요'를 자동 생성하는 서비스가 성행하고 있다.
GPT-4o 등 대규모 언어모델(LLM)을 이용할 경우 댓글 한 개당 약 1원 내외의 비용으로 대량 생성이 가능한 것으로 확인됐다.
실제로 250만원으로 하루 만에 인스타그램 팔로워 30만명과 '좋아요' 수만 개를 조작한 사례도 적발됐다.
카이스트 연구팀은 "GPT-4o API 등을 활용하면 한국어 댓글 한 개 비용이 약 1원 수준"이라고 밝혔다.
X
소리없는 흉기 악플 댓글문화(CG)
전방위 조작…쇼핑몰 후기부터 유튜브까지
조작은 인플루언서 게시글은 물론 온라인 쇼핑몰 후기, 유튜브 영상까지 전방위적으로 이뤄지고 있다.
'좋아요' 조작은 봇 계정을 대량 생성해 활용하는 방식이고, 댓글 조작은 생성형 AI가 게시글 맥락에 맞춰 자연스러운 문장을 만들어내는 방식이다.
두 기술이 결합하면서 '가상 인플루언서의 가상 인기'가 현실화되고 있다.
X
"댓글 많은 뉴스 선택" 42%…여론 형성 왜곡 우려
2021년 조사에서 응답자의 42% 이상이 댓글 수가 많은 뉴스를 선택한다고 답했다.
댓글 수가 여론 형성의 중요한 기반인 상황에서 AI 자동화 조작이 확산되면 사회적 논의의 기반 자체가 흔들릴 수 있다는 우려가 나온다.
네이버, 인스타그램, 유튜브 등 주요 플랫폼이 '클린봇' 등 탐지 시스템을 고도화하고 있지만 완벽한 차단에는 한계를 보이고 있다.
X
법 개선 속도, AI 발전 못 따라가
AI 댓글·좋아요 조작은 정보통신망법, 업무방해죄, 표시광고법 등 여러 법률 위반 가능성이 높다.
하지만 법과 제도의 개선 속도가 AI 기술 발전을 따라잡지 못하고 있다는 지적이 계속되고 있다.
전문가들은 조회수 대비 반응 비율, 댓글 내용의 반복성, 특정 시간대 급증 패턴 등을 확인해 조작 가능성을 점검해야 한다고 조언한다.
디지털 시대, '수치의 출처'를 의심하는 비판적 시각이 필요한 시점이다.