KAIST(총장 신성철)는 예종철 바이오및뇌공학과 석좌교수 연구팀이 의료영상·정밀분야에 활용 가능한 고성능 심층신경망의 수학적인 원리를 규명했다고 10일 밝혔다.

심층신경망은 최근 폭발적으로 성장하는 인공지능의 핵심을 이루는 딥러닝의 대표적인 구현 방법이다. 이를 이용한 영상·음성 인식, 영상처리, 바둑, 체스 등은 이미 사람의 능력을 뛰어넘고 있으며 현재 4차 산업혁명의 핵심기술로 알려져 있다.

하지만 심층신경망은 뛰어난 성능에도 불구하고 정확한 동작 원리가 밝혀지지 않아 예상하지 못한 결과가 나오거나 오류가 발생하는 문제가 있었다. 이로 인해 '설명 가능한 인공지능(explainable AI: XAI)'에 대한 사회적·기술적 요구가 커지고 있다.

연구팀은 심층신경망의 구조가 얻어지는 고차원 공간에서의 기하학적 구조를 찾기 위해 노력했다. 그결과 기존의 신호처리 분야에서 집중 연구된 고차원 구조인 행켈구조 행렬(Hankel matrix)을 기저함수로 분해하는 과정에서 심층신경망 구조가 나오는 것을 발견했다.

행켈 행렬이 분해되는 과정에서 기저함수는 국지기저함수(local basis)와 광역기저함수(non-local basis)로 나눠진다. 연구팀은 광역기저함수와 국지기저함수가 각각 인공지능의 풀링(pooling)과 필터링(filtering) 역할을 한다는 것을 밝혔다.

기존에는 인공지능을 구현하기 위한 심층신경망을 구성할 때 구체적인 작동 원리를 모른 채 실험적으로 구현했다면, 연구팀은 신호를 효과적으로 나타내는 고차원 공간인 행켈 행렬를 찾고 이를 분리하는 방식을 통해 필터링, 풀링 구조를 얻는 이론적인 구조를 제시한 것이다.

이러한 성질을 이용하면 입력신호의 복잡성에 따라 기저함수의 개수와 심층신경망의 깊이를 정해 원하는 심층신경망의 구조를 제시할 수 있다.

연구팀은 수학적 원리를 통해 제안된 인공신경망 구조를 영상잡음제거, 영상 화소복원, 의료영상 복원 문제 등에 적용해 우수한 성능이 보임을 확인했다.

예종철 교수는 "시행착오를 반복해 설계하는 기존의 심층신경망과는 달리 원하는 응용에 따라 최적화된 심층신경망 구조를 수학적 원리로 디자인하고 그 영향을 예측할 수 있다"라며 "의료영상 등 설명 가능한 인공지능이 필요한 다양한 분야에 응용될 수 있다"고 말했다.

한편, 이번 연구는 예종철 교수가 주도하고 한요섭·차은주 박사과정이 참여했으며 응용수학 분야 국제 학술지 '사이암 저널 온 이매징 사이언스(SIAM Journal on Imaging Sciences)'에 지난달 26일자 온라인 판으로 게재됐다.