국내 연구진이 인공지능의 안전성과 신뢰성 확보를 위한 핵심 국제표준 개발을 주도하며 세계적 주목을 받고 있습니다.

한국전자통신연구원(ETRI)는 AI 시스템의 위험을 미리 점검하는 'AI 레드팀 테스팅' 표준과, 소비자가 AI 신뢰 수준을 쉽게 확인할 수 있는 '신뢰성 사실 라벨(TFL)' 표준을 국제표준화기구에 제안하고 본격 개발에 착수했습니다.

레드팀 테스팅은 AI를 공격적으로 시험해 잘못된 답변이나 악용 가능성을 사전에 찾아내는 방법입니다.

이는 의료·금융·국방 등 다양한 분야의 안전성을 확보하는 데 활용될 전망입니다.

ETRI는 서울아산병원과 협력해 의료 전용 평가 방법론도 개발 중입니다.

오는 9월에는 국내 최초로 인공지능 의료기기 안전성을 점검하는 레드팀 챌린지 행사를 개최합니다.

또 하나의 국제표준인 신뢰성 사실 라벨은 식품의 영양성분표처럼 AI의 신뢰성을 한눈에 보여주는 것으로, 기업이 직접 정보를 제공하거나 제3자가 검증할 수 있는 구조입니다.

향후 탄소배출야(탄소발자국) 같은 ESG 요소도 반영하는 방안을 검토중입니다.

이번 성과로 우리나라는 단순한 기술 추격을 넘어, 글로벌 AI 규범을 선도하는 국가로 자리매김하게 됐다는 평가입니다.

ETRI는 앞으로도 AI 안전과 신뢰성 분야의 국제표준화를 주도해, 대한민국이 '소버린 AI 안전 기술'을 이끄는 중심이 되도록 하겠다고 밝혔습니다.

TJB 대전방송