생성형 AI의 발전으로 온라인 여론 조작 우려가 커지는 가운데, 국내 연구진이 한국어 AI로 생성한 댓글을 탐지하는 기술을 세계 최초로 개발했습니다.

KAIST 김용대 교수 연구팀은 국가보안기술연구소와 공동으로 'XDAC'라는 AI 생성 댓글 탐지 시스템을 개발했다고 밝혔습니다.

이 기술은 평균 50자 남짓한 짧고 구어체가 많은 한국어 댓글의 특성을 반영해 기존 영어 기반 탐지 기술의 한계를 극복한 것이 특징입니다.

실험 결과, 일반 이용자들도 AI 댓글과 사람 댓글을 구분하기 어려웠으며 AI 댓글은 오히려 문장 유창성과 맥락 관련성 면에서 사람 댓글보다 높은 평가를 받기도 했습니다.

연구진은 AI가 주로 사용하는 형식적 표현과 서식 특징 그리고 사람이 자주 쓰는 이모티콘, 줄바꿈, 반복 문자 사용의 차이를 정밀 분석해 탐지 성능을 높였습니다.

XDAC는 AI가 생성한 댓글 탐지율이 98.5%로 기존보다 68% 향상된 정확도를 보여줬고, 댓글을 생성한 AI 모델을 84.3%까지 식별할 수 있는 기술도 함께 적용됐습니다.

이 기술은 오는 7월 열리는 인공지능 분야 최고 학회 'ACL 2025'에 공식 채택돼 국내 기술의 우수성을 세계에 입증했습니다.

연구팀은 앞으로 XDAC는 플랫폼 사업자가 의심스러운 계정이나 조직적 여론 조작 시도에 대한정밀 감시·대응은 물론이고, 향후 실시간 감시 시스템이나 자동 대응 알고리즘으로 확장성이 클 것으로 기대하고 있습니다.

TJB 대전방송