보도자료

• 보도일시 : 2023. 11. 15.(수)
• 배포일시 : 2023. 11. 15.(수) 14:00
• 담당부서 : 국가전략연구센터 연구네트워크부
• 책임자 : 부장 김순종 (044-211-1110)
• 담당자 : 전문위원 박양하 (044-211-1112)

2023년도 제6차 인문관통 개최 [제4회 NRC-KAIST 공동심포지엄] -인간과 AI, 공존을 위한 윤리와 법-

행사 개요

• 행사명 : 2023년도 제6차 인문관통(제4회 NRC-KAIST 공동심포지엄)
• 일시: 2023년 11월 14일(화) 13:30~17:00
• 장소: 세종국책연구단지 대강당(연구지원동 1층)
• 주관 : 경제·인문사회연구회 인문정책특별위원회, KAIST 디지털인문사회과학센터, 한국과학창의재단

경제·인문사회연구회(이사장 정해구, 이하 NRC)는 11월 14일(화)에 NRC 인문정책특별위원회, 한국과학기술원(총장 이광형, 이하 KAIST) 디지털인문사회과학센터, 한국과학창의재단과 공동 주관으로 2023년도 제6차 인문관통(제4회 NRC-KAIST 공동심포지엄)을 개최하였다.

*「인문관통」은 '인간과 문명을 직관적으로 통찰한다'는 취지로 NRC가 개최하는 인문학 특강 시리즈이다.

※NRC와 KAIST는 2022년부터 연 2회 NRC-KAIST 공동심포지엄을 개최하고 있다.

이번 공동심포지엄은 "인간과 AI, 공존을 위한 윤리와 법" 이라는 주제로 김란우 교수(KAIST 디지털인문사회과학부)의 사회로 전봉관 교수(KAIST 디지털인문사회과학센터장, NRC 인문정책특별위원회 위원)의 개회사 와 NRC 정해구 이사장의 환영사로 시작하여 기조강연과 주제발표, 패널토의로 구성·진행되었다.

• 개회사에서 전봉관 교수는 AI 시대 무엇이 윤리적인 것인지, 무엇이 착 한 것인지에 대한 논의에 기술 전문가 뿐만 아니라 인문학자의 역할이 있 음을 강조하면서 AI의 윤리에 대한 문제는 어느 한 순간에 완료되는 것이 아니라 진동하는 개념으로 앞으로 이와 같은 심포지엄을 통해 지속적으로 논의가 되어야 하는 사항이라 말하였다.
• 환영사에서 정해구 이사장은 인공지능 기술은 ChatGTP 출현 이후 1년 만에 윤리와 법의 문제를 논의해야 하는 수준으로 발전하고 있다면서, 자율성 비중이 높은 '교육', 타율성의 비중이 높은 '규제', 그 중간 지점의 '훈련'과 같이 인간에 적용되던 윤리와 법의 준수를 어떻게 AI 에게 요구해야 하는지에 대한 방안이 이번 심포지엄을 통해 제안되기를 기대한다고 하였다.

이후에는 김주호 교수(KAIST 전산학부)의 기조강연과 박도현 교수(광주 과학기술원 Al 대학원), 이화란 박사(NAVER Al Lab)의 주제발표가 이어 졌다.

• 김주호 교수는 "인간 중심 AI: AI가 범용 기술이 되기 위한 핵심 요소" 라는 제목의 기조 강연에서 생산성과 효율성을 획기적으로 향상 시키고 있는 AI가 이를 제대로 활용할 수 있는 법과 윤리가 준비되어 있지 않으면 범용 기술이 되기 어렵다고 전망하였다. 또한, 인간의 의도를 해석하는 AI 의 가치에 대한 문제, 차별없는 일관된 경험을 제공하는 문제, 주도권의 문제를 '상호작용'과 '설계', 그리고 '평가'와 같은 핵심요소를 통해 기술에서 사람으로 넘어가는 문제에 대한 해결을 할 수 있다 말하 였다. 그리고 현재 AI 평가는 정확도와 같은 퍼포먼스에 대한 측정만을 위주로 하고 있지만 앞으로는 학습의 결과, 자기효능감 등 상호작용을 통한 성취, 실세계의 복잡한 가치 반영 여부 등 다양한 지표를 개발하고 검증하는 방법에 대한 연구가 필요하다는 의견을 피력하였다.
• "인공지능법의 현안과 과제"라는 주제 강연에서 박도현 교수는 인공 지능의 윤리원칙이 과거 조직 내부의 자율 규제를 위한 공통의 언어 역 할을 담당하다가 국제기구에서의 윤리원칙들이 발표된 이후로 현재는 자율 규제 수준을 넘어서는 경성 규제인 법 마련과 같은 패러다임 쉬프 트를 맞이하고 있다고 사례를 통해 설명하였다. 더불어 현재 인공지능 의 위험 분류에 대한 접근이 미국식과 유럽식이 다르다rh 소개하면서 우리나라에서 발의 중인 법률 안은 양측의 모델을 융통성 있게 적용하 여야 한다고 말하였다.
• 이어서 네이버 Al Lab 리더인 이화란 박사가 "책임감 있는 Al" 라는 제목 으로 주제 강연을 이어갔다. 이화란 박사는 생성형 인공지능의 실행 수단인 Large Language Model(LLM)을 소개하면서 실제 운영 중인 국내외 시스템 에서 발현된 양상인 학습의 품질에 따른 폭력적, 편견적, 불법적 콘텐츠 생성 사례와 함께 산업계에서 이러한 위험한 행동에 대한 주의를 위해 시스템적인 처리 노력과 기업차원의 윤리정책을 마련한 사례를 함께 소개하였다. 또한 윤리적 행동 뿐 아니라 향후에는 논쟁적 질문, 정해진 윤리적 기준에 대한 질문, 미래를 예측하는 질문 등과 같은 민감 질문에 대한 고민을 해결하기 위한 노력도 필요하다고 하였다.

주제강연 후에는 김란우 교수의 사회로 문정욱 실장(정보통신정책연구원 지능정보사회정책연구실), 정한별 부연구위원(한국과학기술기획평가원 제 도혁신센터)과 주제발표자 간 토론이 진행되었으며, 지정토론 후 자유로운 질의응답이 이어졌다

• 문정욱 실장은 인공지능 윤리 문제를 해결하기 위한 정책마련 경과를 소 개하였으며, 인공지능이 긍정적 편리성, 효율성, 생산성 등의 순기능도 있 으나, 다양한 잠재적 위험의 상황에서의 정보 편향과 정보 환각, 저작권과 지적재산권 문제 등이 존재하는 상황에서 이해관계자가 많은 인공지능 윤 리정책을 마련하는데 산업의 보호와 이용자 보호가 공존하는 정책 개발이

[붙임 2] 2023년도 제6차 인문관통 행사사진

▲경제·인문사회연구회(이사장 정혜구, 이하 NRC)는 11월 14일(화)에 NRC 인문정책특별위원회, 한국과학기술원(총장 이광형, 이하 KAIST) 디지털인문사회과학센터, 한국과학창의재단과 공동 주관으로 2023년도 제6차 인문관통(제4회 NRC-KAIST 공동심포지엄)을 개최하였다. 김주호 KAIST 전산학부 교수가 인간 중심 AI: AI가 범용 기술이 되기 위한 핵심 요소"를 주제로 한 기조강연을 하고 있다.

▲경제·인문사회연구회(이사장 정혜구, 이하 NRC)는 11월 14일(화)에 NRC 인문정책특별위원회, 한국과학기술원(총장 이광형, 이하 KAIST) 디지털인문사회과학센터, 한국과학창의재단과 공동 주관으로 2023년도 제6차 인문관통(제4회 NRC-KAIST 공동심포지엄)을 개최하였다. 김란우 교수의 사회로 문정욱 실장(정보통신정책연구원 지능정보사회정책연구 실), 정한별 부연구위원(한국과학기술기획평가원 제도혁신센터)과 주제 발표자 간 토론이 진행되었다.