티스토리 뷰

알파고와 이세돌이 대결하던 무렵, 하사비스가 앞으로는 여러 가지 작업을 수행할 수 있는 인공지능을 만들고 싶다는 포부를 피력했다. 실제로 여러 작업을 수행하는 인공지능을 만드는 것은 인공지능 분야의 난제다. 알파고를 비롯한 최신 인공지능은 뇌 속 신경망을 모방한 인공신경망을 사용하는 경우가 많은데, 인공신경망은 새로운 작업(예: 바둑)을 배우는 동안 이전에 배웠던 작업(예: 체스)을 곧잘 잊어버리기 때문이다.

일러스트_김상민 기자

■ 망각하는 인공신경망

인공신경망이 새로운 내용을 배우는 동안 이전에 배운 내용을 쉽게 잊어버리는 것은 인공신경망의 학습이 단위들 간의 연결 세기를 바꿈으로써 일어나기 때문이다. 인공신경망은 신경세포를 모방한 단위들과 이 단위들 간의 연결로 구성된다. 단위들의 연결 세기가 변하면 같은 입력을 받아도 다른 출력이 나오므로, 연결 세기를 변화시키는 과정이 인공신경망 학습의 핵심이 된다.

인공신경망 속의 두 단위 A와 B 사이의 연결을 생각해 보자. A와 B 사이의 연결 세기를 0.3이라는 임의의 값으로 두고 인공신경망에 바둑을 가르치면, 인공신경망이 바둑에 숙달되는 동안 연결 세기가 1.8 등 다른 값으로 변할 수 있다. 

이제 이 인공신경망에 체스를 가르친다고 해 보자. 바둑과 다른 규칙을 가지는 체스를 잘하려면 같은 인공신경망도 바둑을 둘 때와 다르게 동작해야 하고 그러려면 인공신경망의 연결 세기들이 바뀌어야 한다.

만일 A와 B 사이의 연결 세기가 1.1이 되는 것이 체스를 잘 두는 데 더 유리하다면, 이 인공신경망은 체스를 배운 뒤에 바둑은 이전보다 못하게 될 가능성이 크다.

비슷한 상황이 인공신경망의 모든 연결 세기에 대해 벌어진다. 이래서 바둑만 잘하는 인공지능을 만들기는 쉽지만, 바둑도 잘 두고, 체스도 잘하는 인공지능을 만들기는 어렵다.

■ 기억의 전달

이 난제를 해결하기 위해서, 인공신경망을 크게 만들어서 바둑을 두는 데 필요한 연결이 체스를 두는 데 필요한 연결과는 겹치지 않게 하는 방법, 바둑을 잘 두면서 체스도 잘 둘 수 있는 적절한 연결 세기를 찾는 방법 등이 고안되어 왔다. 그중에 신한울 등이 작년에 출간한 ‘순차 학습 시 발생하는 기존 습득 과제 망각에 관한 논문’이 시선을 끌었다.

이 논문에서는 새로운 작업(예: 거리 사진 속의 숫자 읽기)과 이전의 작업(예: 사람이 손으로 쓴 숫자 읽기)을 함께 배우는 방식을 제안했다. 이를 위해서 이전에 배운 지식을 다음 세대에 전달하는 ‘학자’ 부분을 모델에 추가했다.

‘이전 학자’는 이전 작업에 관련된 입력 데이터(예: 사람이 손으로 쓴 숫자)를 가짜로 만들어낸다. 그리고 ‘다음 학자’가 새로운 작업(예: 거리 사진 속의 숫자 읽기)을 배우는 틈틈이 만들어낸 가짜 입력을 제시한다. ‘다음 학자’가 가짜 입력에 대한 답을 내놓으면 ‘이전 학자’는 이에 대한 피드백을 제공하면서 ‘다음 학자’에게 이전에 배운 작업을 가르친다.

이런 과정을 통해 ‘다음 학자’는 새로운 작업을 배우는 틈틈이 이전에 배웠던 작업을 학습할 수 있게 된다. 이렇게 하면 이전에 배웠던 내용을 잊지 않기 위해서 이전에 학습한 방대한 데이터를 저장해 둘 필요가 없어진다. 이전에 경험한 데이터를 다시 입력받는 게 아니라, 학습한 내용을 바탕으로 만들어진 가짜 데이터만 입력받으면 되기 때문이다.

■ 기억을 넘겨받은 현재의 나

과거의 경험을 가진 ‘이전 학자’와 현재를 경험하면서 과거의 기억만 넘겨받는 ‘다음 학자’로 분리하는 이 방식은 묘한 여운을 남겼다. 뇌에서도 비슷한 일이 일어나기 때문이다. 인공신경망에서 단위들 간의 연결 세기에 이전에 배운 내용이 저장되듯, 우리의 기억도 뇌 속 신경세포들 간의 연결인 시냅스의 세기와 깊이 관련된다. 기억이 유지되려면, 시냅스 세기가 유지되어야 하고, 그러려면 시냅스를 구성하는 단백질의 종류와 양도 유지될 수 있어야 한다.

여기서 문제가 발생한다. 생명체를 구성하는 단백질은 계속 그 자리에 있는 게 아니라 수시로 교체되기 때문이다. 시냅스 세기를 유지하려면 시냅스에 있던 단백질의 종류와 양을 기억해 두었다가 단백질이 교체될 때 딱 이전에 있던 양만큼만 추가해야 할 텐데, 이 정보는 어디에 저장될까? 단백질이 교체되면서 아무래도 시냅스가 변해갈 텐데 시냅스의 세기는(혹은 기억은) 시간이 흐르면서 얼마나 달라질까? 

이 질문들은 아직 활발히 연구 중인 난제다. 하지만 이 난제들로부터 적어도 두 가지 사실을 알 수 있다. 먼저, 이전 경험에 대한 기억만이 한 순간에서 다음 순간으로 넘어갈 뿐, 뇌를 구성하는 물질(기억하는 주체)은 계속 달라진다는 점이다. 마치 앞서 설명한 인공지능에서 ‘이전 학자’에서 ‘다음 학자’로 기억만이 넘겨지는 것처럼. 그리고 기억은 알게 모르게 변해가며 현재에 영향을 미친다는 점이다. ‘이전 학자’가 만들어낸 가짜 데이터로 과거를 간접 경험하면서, 시냅스를 구성하는 단백질이 교체되면서, 과거가 현재에 영향을 미치는 방식은 변해간다.

이렇게 과거의 실제가 아닌 기억만을 넘겨받기 때문에, 기억은 현재에 영향을 미치기 때문에, 역사적 실제에 대한 기억은 중요한 모양이다. 지난 목요일은 3·1절이었다. 인구의 10%를 넘는 많은 사람이 거리로 나가 평화적인 시위를 벌였던 만세운동 덕분에 우리는 임시정부를 설립할 수 있었고, 식민지이던 와중에도 근현대 정부를 실험하고 연습할 수 있었다. 유럽과 북미를 제외한 거의 전 세계가 식민지이던 시절에, 그 많던 식민지들 중에 임시정부를 설립한 나라는 드물었다. 우리가 누구인가에 대한 기억은 중요하다.

<송민령 | 카이스트 바이오 및 뇌공학과 박사과정>

 

댓글
최근에 올라온 글
«   2024/05   »
1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31