네이버 댓글 1억 개를 AI가 훑었더니, 수상한 계정 2만4000개가 나왔다
스마트폰 소셜미디어 앱 이미지 (Wikimedia Commons)
IT · 전자기기
네이버 댓글 1억 개를 AI가 훑었더니, 수상한 계정 2만4000개가 나왔다
KAIST가 개발한 '설명 가능한 AI', 왜 이 계정들을 의심했는지도 알려준다
한국과학기술원(KAIST) 연구팀이 네이버 뉴스 이용자 약 404만 7,831명, 댓글 1억 1,265만 8,554건(2006년 4월~2025년 3월)을 인공지능(AI)으로 분석해 외국과 연계된 것으로 의심되는 계정 2만 3,998개를 식별했다고 8월 12일 밝혔다. 전체 이용자의 약 0.6%에 해당하는 규모다. 이원재 문화기술대학원 교수와 차미영·오혜연 전산학부 교수 공동 연구팀이 독일 막스플랑크 보안·정보보호연구소 토르스텐 홀츠 교수와 함께 진행한 이번 연구는, 단순히 "의심스럽다"는 결론만 내놓던 기존 AI 탐지 기술의 한계를 넘어 판단 근거까지 구체적으로 제시하는 '설명 가능한 AI(Explainable AI)' 기술을 적용했다는 점에서 주목받고 있다.
어떻게 2만 4,000개나 되는 계정을 찾아냈을까
연구팀은 국가안보전략연구원이 이전에 파악해둔 외국 연계 의심 계정 70개를 출발점으로 삼았다. 이 70개 계정과 팔로우 관계로 연결돼 있거나, 같은 기사에 댓글을 단 계정들로 후보군을 점차 확장해나가는 방식을 사용했다. 이렇게 확장된 방대한 후보군을 20년치 댓글 데이터와 대조해 AI로 패턴을 분석한 결과, 최종적으로 2만 3,998개 계정이 의심 계정으로 분류됐다. 단순한 키워드 필터링이 아니라, 오랜 시간에 걸친 활동 패턴과 네트워크 구조를 함께 살펴봤다는 점이 이번 연구의 특징이다.
가장 흥미로운 발견 — 어느 한쪽 편이 아니었다
| 구분 | 내용 |
|---|---|
| 예상됐던 패턴 | 특정 정치 진영을 일방적으로 지지·옹호하는 활동 |
| 실제 발견된 패턴 | 진보·보수 양 진영의 정치인을 폭넓게 비난하며 갈등·불신 증폭 |
| 연구팀의 해석 | 특정 진영을 편들기보다 한국 사회 내부 분열 자체를 목적으로 하는 활동으로 추정 |
| 활동 변화 추이 | 선거철에 의심 계정 활동이 평상시보다 51% 증가 |
※ 이 연구는 "외국과 연계됐을 가능성이 의심된다"는 분석 결과이며, 특정 국가나 조직을 확정적으로 지목한 것은 아니다. 연구팀도 판단 근거를 함께 제시하되 최종 해석에는 신중한 접근이 필요하다고 강조했다.
왜 '설명 가능한 AI'가 중요한가
이원재 교수는 "의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다"며 "선거처럼 사회적 긴장이 높아지는 시기에 우선 살펴야 할 메시지를 가려내는 기준이 될 것"이라고 설명했다. 오혜연 교수는 "갈수록 교묘해지는 온라인 영향력 활동을 탐지하는 데 활용될 것으로 기대한다"고 덧붙였다.
기존의 AI 탐지 기술은 특정 계정을 의심 계정으로 분류하더라도 "왜 이 계정이 의심스러운가"에 대한 구체적인 근거를 제시하기 어렵다는 근본적인 한계가 있었다. 근거 없이 "AI가 그렇다고 했다"는 식의 결과만으로는, 실제로 계정 이용을 제한하거나 댓글을 삭제하는 등의 후속 조치로 이어지기 어려웠다는 것이다. 이번 연구는 AI가 의심 계정으로 판단한 근거(댓글 속 특정 표현이나 활동 패턴 등)를 함께 제시하도록 설계돼, 실제 정책적 판단이나 플랫폼 차원의 대응에 활용될 여지를 높였다는 평가를 받는다.
이 기술이 앞으로 어떻게 쓰일 수 있을까
- 선거 시기 여론 감시 — 선거철마다 활동이 급증하는 패턴이 확인된 만큼, 향후 선거 국면에서 사회적 긴장이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준으로 활용될 수 있다.
- 플랫폼 차원의 대응 근거 마련 — 판단 근거가 명확히 제시되는 만큼, 네이버 등 플랫폼 사업자가 실제 계정 제재나 콘텐츠 관리에 참고할 수 있는 실질적인 데이터로 활용될 가능성이 있다.
- 국제 공동연구로서의 의미 — 독일 막스플랑크연구소와의 공동연구라는 점에서, 이런 온라인 영향력 공작이 한국만의 문제가 아니라 여러 국가가 함께 대응해야 할 국제적 이슈임을 보여준다.
이번 연구 결과는 8월 13일 국제학술대회 '유즈닉스 시큐리티 심포지엄 2026'에서 정식으로 발표될 예정이다.
자주 묻는 질문
Q. 이 2만 4,000개 계정이 진짜 외국 세력이 만든 계정이라는 게 확정된 건가요?
아닙니다. 연구팀은 이 계정들을 '외국 연계 영향력 활동이 의심되는' 계정으로 분류한 것이며, 이는 통계적·패턴 기반 분석 결과입니다. 개별 계정이 실제로 외국과 연계돼 있는지는 별도의 확인 절차가 필요합니다.
Q. 특정 정치 진영을 공격하는 계정만 의심 대상이 된 건가요?
아닙니다. 오히려 이번 연구의 핵심 발견은 의심 계정들이 진보와 보수 양쪽 진영을 모두 공격하며 갈등을 증폭시키는 패턴을 보였다는 점입니다. 특정 진영에 유리하거나 불리한 결과가 아닙니다.
Q. 일반 이용자가 이 기술의 영향을 받게 되나요?
이 연구는 학술 연구 결과이며, 즉각적으로 일반 이용자의 계정에 영향을 미치는 것은 아닙니다. 다만 향후 플랫폼의 정책 변화나 콘텐츠 관리 방식에 참고 자료로 활용될 가능성은 있습니다.
AI가 단순히 '의심스럽다'고 말하는 데 그치지 않고, 왜 그렇게 판단했는지 근거까지 보여줄 수 있게 됐다는 점이 이번 연구의 실질적인 진전입니다. 온라인 여론 조작이라는 눈에 보이지 않는 문제를 다루는 데 있어, 신뢰할 수 있는 근거 기반 접근이 앞으로 더 중요해질 전망입니다.
댓글
댓글 쓰기