기술 넘어 사회적 신뢰와 직결
지식뿐 아니라 윤리적 문제 교육
정부·기업과 협력, 표준 수립해야
사회적 인식 높이는 데 대학 중요
산업계·학계 긴밀한 협력도 필요

권기현1.jpg
권기현 경기대 SW중심대학사업단장
AI 기술이 빠르게 발전하고 다양한 분야에서 활용되면서 'AI 안전성' 문제가 점차 중요해지고 있다. 자율주행차가 도로에서 안전하게 운행되기 위해서는 AI의 정확한 판단 능력과 시스템의 안전성이 필수적이다. 2018년 미국에서 우버의 자율주행차가 보행자를 치어 사망하게 한 사고는 AI 시스템의 오작동이 얼마나 치명적일 수 있는지를 보여준다. 2020년 영국에서는 AI 알고리즘 오류로 대학 입학시험 성적이 잘못 산출되어 많은 학생이 피해를 봤다. 교사들의 예측 성적을 과도하게 낮추어 약 40% 학생들의 성적이 하향 조정되었고, 특히 사회경제적 배경이 낮은 학생들이 큰 피해를 보았다. 이처럼 AI 안전성 문제는 기술적 문제를 넘어 사회적 신뢰와도 직결되기도 한다.

AI 안전성 확보를 위해서는 대학의 역할이 중요하다. 대학은 미래 전문 인력을 양성하는 기관으로서 기술 교육과 함께 안전성 교육을 제공해야 한다. 먼저, 기술적인 지식뿐만 아니라 윤리 문제와 안전성에 대한 교육을 강화해야 한다. 학생들은 잠재적 위험과 예방법을 배우고 실무에서 적용할 수 있는 능력을 길러야 한다. 이를 위해 대학은 AI 관련 커리큘럼에 윤리 및 안전성 관련 과목을 포함해야 한다. 'AI 윤리와 안전성', '기술 윤리와 사회적 책임' 등 과목을 개설하고, 실제 오작동 사례 분석 등으로 학생들이 문제를 예방하고 해결하는 능력을 길러야 한다. 또 실습 프로젝트를 통해 안전성과 윤리의 필요성을 직접 경험하게 하는 것이 중요하다.

다음으로 대학은 AI 연구과정에서도 안전성을 우선 고려해야 한다. 다양한 시나리오에서 성능과 안전성을 검증하는 연구를 통해 AI 기술이 실제 환경에서 어떻게 작동하는지 파악하고 개선점을 찾아야 한다. 대학은 AI 시스템의 안전성을 평가하기 위한 기준과 절차를 개발하고 연구에 적용해야 한다. 다양한 환경과 조건에서 AI 시스템의 성능을 검증하는 시나리오 기반 테스트를 수행하고, 정부 및 기업과 협력하여 안전성 표준을 수립하고 이를 준수하는 체계를 구축해야 한다. 가령 MIT는 AI 시스템의 안전성과 신뢰성을 확보하기 위한 정책 보고서를 발표하고 표준을 마련하기 위한 연구를 진행하고 있다. 2024년 AI 서울 서밋에서는 AI 안전성에 대한 글로벌 협력의 중요성을 강조하며 국제적 논의를 심화시켰다.

대학은 또 사회적 인식 확산에 노력해야 한다. 세미나, 강연, 교재 개발 등으로 대중에 AI 안전성 문제와 그 중요성을 알리고 해결 방안을 논의하는 장을 마련해야 한다. 대학은 정기적으로 공개 세미나를 개최해 일반 대중과 전문가들을 대상으로 AI 안전성의 중요성을 교육하고, 전문가들을 초청하여 최신 연구 결과와 사례를 공유해야 한다. 나아가 AI 안전성 관련 자료와 강의를 온라인으로 제공하여 누구나 이용하도록 해야 한다.

마지막으로, 산업계와 학계의 긴밀한 협력이 필요하다. 산업계는 최신 기술 동향과 실제 적용 사례를 제공하고, 학계는 이론적 기반과 연구 결과를 통해 교육 프로그램을 설계해야 한다. 이를 통해 학생들은 최신 기술과 안전성 기준을 학습하고 실무에 적용할 역량을 갖추게 된다. 대학은 산업계와의 협력을 통해 AI 안전성 관련 프로젝트를 추진하면서 학생들이 산업 현장에서 경험하고 학습할 수 있는 인턴십 프로그램을 운영해야 한다.

기술 발전이 인류에게 큰 혜택을 제공할수록 안전성 문제도 중요하게 다뤄져야 한다. AI 안전성 확보는 기술 신뢰성을 높이고, 사회적 신뢰를 구축하는 데 필수적이다. 이를 목표로 대학은 AI 안전성 및 윤리 교육, 안전성 중심 연구, 대중 인식 제고, 산업계와의 협력을 강화해야 한다. 경기대는 2021년에 정부의 SW중심대학 사업에 선정되어 'SW혁신을 선도하는 K-안전 SW 융합인재 양성'에 주력하고 있다. 그동안 ▲'SW안전보안' 전공 신설 ▲'SW윤리 및 안전' 과목 개설 ▲'인공지능사회의 법과 윤리' 교재 출판 ▲'SW안전보안세미나' 개최 ▲'머신러닝 애플리케이션의 정량적 성능 및 안전성 분석' 산학협력과제 등의 노력을 기울여 왔다. 이러한 노력을 함께 공유하고 확산하여 AI 기술의 안전한 발전과 사회적 신뢰 구축에 대학이 함께 앞장서길 기대한다.

/권기현 경기대 SW중심대학사업단장