정부, 이달 안에 AI 윤리원칙 제정…3대 가치·7대 원칙 제시

과기정통부·정보통신정책연구원, 각계 참여 대토론회 열어

서면 의견 116건 반영한 수정안 공개…시민 의견까지 청취

대한민국 인공지능 윤리원칙 토론회 개회사하는 김정언 정보통신정책연구원 부원장

정부가 인공지능 개발과 활용의 기준이 될 국가 차원의 윤리원칙을 이달 안에 확정합니다.

◇대한민국 인공지능 윤리원칙 대토론회

과학기술정보통신부와 정보통신정책연구원은 14일 프레지던트호텔 모짤트홀에서 '대한민국 인공지능 윤리원칙' 대토론회를 열었습니다.

토론회는 '모두를 위한 AI, 함께 만들어가는 인공지능 윤리원칙'을 주제로, 현재 마련 중인 윤리원칙 초안의 주요 쟁점을 일반 시민과 다양한 이해관계자가 함께 논의하기 위해 마련됐습니다.

산업계와 시민단체, 학계 전문가와 일반 시민, 기자 등 70여 명이 참석했고 온라인 생중계도 함께 진행됐습니다.

정부는 지난해 말부터 인공지능 기본법 제27조에 따라 인공지능의 안전성과 신뢰성을 높이기 위한 자율 규범으로 이 윤리원칙을 만들어 왔습니다.

◇ AI 안전성과 신뢰성 높이기 위한 자율규법

이번 윤리원칙은 2020년 마련된 인공지능 윤리기준을 이어받으면서, 스스로 판단해 행동하는 에이전틱 인공지능과 로봇 등 물리적 형태로 구현되는 피지컬 인공지능으로 발전하는 기술 흐름을 반영했습니다.

인공지능 기본법 시행 이후 정비된 정책 여건도 함께 담겼습니다.

과기정통부와 정보통신정책연구원은 지난 5월 1차 초안을 공개하고 산업계와 시민단체, 학계, 관계부처와 일반 시민을 대상으로 의견을 받아 왔습니다.

이렇게 모인 서면 의견 116건을 반영해 이번 윤리원칙안을 만들었습니다.

◇ 인간의 존엄성. 사회의 공공선. 인류의 지속가능성 3대 가치

윤리원칙안은 인간의 존엄성과 사회의 공공선, 인류의 지속가능성이라는 3대 가치를 제시했습니다.

이를 실현하기 위한 7대 원칙으로는 인간중심성과 프라이버시 보호, 공정성과 포용성, 책임성, 안전성, 신뢰성, 투명성이 담겼습니다.

토론회에서는 이상욱 한양대학교 철학과·인공지능학과 교수가 'AI 시대, 혁신과 신뢰를 위한 윤리원칙의 역할'을 주제로 발표했습니다.

이 교수는 인공지능 기술이 빠르게 변하면서 개발과 활용 과정의 판단이 한층 복잡해지고 있다고 진단했습니다.

그러면서 윤리원칙이 혁신을 제약하는 요소가 아니라 다양한 고려사항을 함께 살펴 바람직한 인공지능 개발과 활용을 돕고, 이를 실제로 가능하게 하는 역할을 해야 한다고 강조했습니다.

이어 최우석 과기정통부 인공지능안전신뢰지원과장이 정부가 수립 중인 윤리원칙 초안을 발표했습니다.

발표에 이어 문명재 연세대학교 행정학과 교수를 좌장으로 종합 토론이 진행됐습니다.

토론에는 변순용 서울교육대학교 윤리교육과 교수와 홍윤희 사단법인 무의 이사장, 윤명 소비자시민모임 사무총장, 이지은 참여연대 선임간사가 패널로 참여했습니다.

또 김현주 한국인공지능·소프트웨어산업협회 본부장과 김경훈 카카오 AI Safety 리더, 이진수 과기정통부 인공지능정책기획관도 함께했습니다.

◇ "AI를 위험하고 조심해야 하는 대상으로 보는 인식에서 벗어나야"

변순용 교수는 "AI가 사회의 기본 인프라가 된 만큼 AI를 위험하고 조심해야 하는 대상으로 보는 인식에서 벗어날 필요가 있다"라고 말했습니다.

변 교수는 "현재 윤리원칙 초안도 이러한 방향을 최대한 반영하려고 노력한 것으로 보인다"라고 평가했습니다.

시민사회를 대표해 참석한 홍윤희 이사장은 "AI의 개발과 활용 과정에서 다양한 시민이 참여할 수 있어야 하며, 특히 기존의 수혜자 중심 접근에서 벗어나 시민들이 권리를 가진 주체로 보고 접근해야 한다"고 강조했습니다.

산업계에서는 윤리원칙이 현장에서 참고할 수 있는 기준으로 기능하되 새로운 규제나 획일적인 의무로 작용해서는 안 된다는 의견이 나왔습니다.

김경훈 리더는 "윤리적 권고와 법적 의무가 혼동되지 않도록 할 필요가 있다"고 말했습니다.

김현주 본부장은 "에이전트형 AI, 피지컬 AI 등 새로운 기술 이슈가 등장하는 상황에서 입법과 기술 발전 간의 시차를 보완하는 역할로 윤리가 중요하다"고 밝혔습니다.

패널 토론이 끝난 뒤에는 바람직한 윤리원칙과 이행 방안, 정부에 바라는 점에 대해 현장과 온라인 방청객의 의견을 직접 듣는 시간도 마련됐습니다.

◇ "8월 중 제정 공표"

김경만 과기정통부 실장은 "대한민국 인공지능 윤리원칙은 AI 기본사회를 위해 우리 모두가 함께 지켜나가야 할 기준으로, 다양한 사회구성원의 목소리를 담기 위해 노력하고 있다"라고 말했습니다.

김 실장은 이어 "이번 토론회에서 제기된 의견까지 충실히 반영해 윤리원칙을 제정하고, 향후 정부·기업·시민 등 모든 주체가 각자의 위치에서 이를 실천해 나갈 수 있도록 적극 뒷받침 하겠다"라고 밝혔습니다.

윤리원칙안은 과기정통부와 정보통신정책연구원이 운영하는 인공지능 윤리 소통채널 누리집에서 확인할 수 있습니다.

과기정통부는 이번 공개토론회에서 나온 의견을 종합적으로 검토해 윤리원칙안을 보완한 뒤 8월 중 제정하고 공표할 계획입니다.

(사진=과학기술정보통신부 유튜브 캡처)