[경인칼럼] 신진서-카타고 대국과 공진화 학습법

10년 전 알파고가 알려준 정석 무기 삼아

더 강한 기계를 이긴 인간 ‘구조적 공진화’

더 많이, 깊이 배우는 건 언제나 인간이다

지난 7월, 신진서 9단이 현존 최고의 바둑 인공지능 ‘카타고(KataGo)’와의 3번기를 2승1패로 승리하는 ‘사건’이 일어났다. 두 점 접바둑이었지만, 그동안 두 점을 받고도 프로기사 전체가 넘지 못하던 벽이었다. 이세돌이 알파고를 상대로 거둔 한 판의 승리 이후 10년만에, 인간이 다시 기계를 이긴 것이다.

물론 10년 사이 맞수에서 두 점으로 바뀌었으니 신진서의 승리가 아니라 인공지능의 엄청난 진화 속도를 확인시킨 사건이라 할 수도 있겠다. 그래서 이번 대국의 승리한 사실보다 ‘어떻게 이겼는가’를 복기해보는 것이 더 중요하다.

이번 대국은 신진서가 두 점을 미리 놓고 시작하는 핸디캡 대국으로 치러졌다. 두 점은 18집에 해당하는 절대 우위이다. 그러나 그 두 점조차 프로기사 전체가 넘지 못하던 벽이었다. 제한시간도 인간은 5시간, 기계는 매 수 20초였으니 불평등 대국이었다. 결과는 1국에서 완패한 신진서가 2국에서는 4집 반으로 신승하고 3국에서는 11집 반으로 완승한 대역전 드라마였다.

1국에서 카타고는 이례적인 변칙수로 신진서를 공격하자 신진서도 싸움으로 맞섰지만 카타고의 정밀한 계산 앞에 대패하고 말았다. 2국에서 신진서는 전략을 바꿨다. 대형 정석으로 판을 채움으로써 기계가 역전시킬 공간을 최소화했다. 150수를 참다가 단 한 번 칼을 뽑아 승리했다. 3국에서는 아예 싸움 자체를 제거함으로써 크게 이겼다. 카타고 대국은 크게 진 바둑, 참아서 이긴 바둑, 싸우지 않고 이긴 바둑으로 요약되거니와 이 세 판의 대국기는 인공지능시대의 학습 모델이라 할 수 있다.

이번 대국이 단판 승부였다면 신진서의 패전기는 배울 바도 없었을 것이다. 학습은 학습 이전과 이후를 비교할 수 있어야 하기 때문이다. 1국 직후의 48시간 동안 신진서는 패배 요인을 분석했다. 패인은 무모하게 기계의 연산능력과 정면으로 수읽기 대결을 펼친 것이다. 1국 완패 후 신진서는 국면을 단순하게 만들어야 하고 싸우지 말아야 한다는 원칙을 세웠다. 그 원칙을 실천하여 2국에서 신승하고 3국에서 완승한 것이다.

이번 대국은 기계가 인간을 가르치고, 배운 인간이 기계를 극복하고, 그 극복이 기계를 발전시키는 공진화(coevolution)가 더이상 은유가 아님을 입증했다. 과거 알파고가 보여준 3·3 정석이 프로기사들의 정석 관행을 바꾸었다.

그런데 신진서는 제2국에서 알파고가 가르쳐준 그 정석을 무기삼아 카타고를 잡았다. 인공지능이 인간에게 새 정석을 가르쳤고, 그것을 내면화한 인간은 10년 뒤 그 수법으로 더 강한 기계를 넘어선 것이다. 이번 3번기의 기보는 인간의 손을 거쳐 카타고를 발전시키는 중요한 데이터가 될 것이다. 이 과정은 유전변이로 작동되는 생물학적 공진화와는 기제가 다르므로, 구조적 공진화(structural coevolution)라 부르는 것이 정확할 것이다.

이 같은 공진화의 나선(螺線)에서 더 많이, 더 깊이 배우는 쪽은 언제나 인간이다. 기계는 인간의 손을 거쳐야만 배우지만, 인간은 스스로 배운다. 이 차이는 기계와 인간의 학습법의 차이에서 오는 것이다. 카타고의 실력은 수천만 판의 셀프대국을 통해 확인한 통계적 확률을 신경망에 축적한 것이다. 이 대국도 카타고에게는 신경망의 가중치를 조정하는 한판에 불과했지만, 신진서는 제1국 패배 이후 자신의 공격적 기풍을 버리고 도광양회(韜光養晦)의 자세로 대국에 임했다.

인공지능 시대의 과제는 기계를 이기는 법이 아니라 기계와 함께 학습하는 법을 찾는 일이다. 더 정교해진 기계는 인간에게 더 밀도 높은 학습을 요구하고, 그 요구에 응답하는 과정에서 인간은 더 지혜로워질 수 있다. 신진서가 알파고 없이 오늘의 신진서가 될 수 없었듯이 다음 세대의 프로기사들은 카타고와 알고리즘을 훈련장으로 삼아 새로운 바둑 기술을 보여주게 될 것이다.

기계는 계산을 맡고, 인간은 학습하고 가르치는 협력-경쟁 구조다. 인공지능이 강력해질수록 인간은 더 높은 곳에서 자신을 재정의해야 한다.

/김창수 인하대 초빙교수·객원논설위원