알파고

인간의 호기심과 의문때문에 결국 알파고를 이긴다.

[이종호 과학국가박사]로봇이 인간에게 유익하기도 하지만 해를 줄 수 있다는데 많은 사람들이 공감할 것이다. 이에 대한 해법은 인간에 유용한 로봇도 사용하면서 인간의 미래를 어둡게 하는 문제점들을 말끔하게 정리할 수 있는 마법의 무기를 사용하는 것이다.

결론을 먼저 말한다면 로봇학자들은 단호하게 말한다. 인간에게는 인간성이라는 마법의 무기가 있으므로 로봇을 인간에게 위해하지 않은 상태로 만들 수 있다는 뜻이다. 로봇을 무서워할 필요가 없다는 상쾌한 결론이지 않을 수 없다.

이런 기대는 이세돌이 5전 1승 4패로 완패했지만 4국에서 불계승한 것은 상당한 시사점을 준다. 이는 알파고가 엄청난 프로그래머와 물동량을 동원했음에도 불구하고 인간과는 다른 알고리즘의 한계 때문에 패배할 수밖에 없었다는 것을 보여주기 때문이다.

알파고는 컴퓨터 프로그램이므로 자신과 대국하는 사람이 누구인지를 모르고 승리할 수 있는 수만 찾는다. 즉 상대에 따라 실력을 조절하지 않고 승리를 위한 최고의 수를 찾는데 제4국에서 이세돌이 ‘신의 수’로 평가되는 묘수를 날리자 알파고는 이후 이의 대안을 제대로 찾지 못하고 버그를 보이다가 결국 백기를 들었다. 이것은 자기가 생각하지 못했던 수가 나오면 대안 찾는데 실패한다는 것을 의미한다. 즉 알파고와 같이 잘 만들어진 인공지능 알고리즘이라도 문제가 생길 수 있다는 것을 뜻한다.

인공지능의 문제는 프로그래머가 악당 과학자로 분신하여 인간에 해를 끼칠 무기나 바이러스 등을 개발할 것으로 생각하기 때문이 아니다. 알파고를 예를 들어 제기되는 문제점은 세 가지이다.

첫째는 인공지능 프로그램을 인간들이 맹신하여 프로그램이 만든 결론에만 따르게 될 우려가 있다는 점이다. 한마디로 잘 만들어진 프로그램 뒤에 숨어 있는 알고리즘을 이용하여 인간들을 완벽하게 세뇌할 수 있다.

둘째는 프로그램의 결론이 항상 옳은 방향으로만 전개되지 않을 가능성이 존재한다는 것이다. 이를 프로그램 개발자의 능력에 따른다고 하더라도 제시된 알고리즘의 결과가 항상 선(善)으로 따르지 않을 수 있음을 뜻한다.

마지막으로 예상치 못한 버그가 치명상을 초래할 수 있다는 점이다. 이세돌이 알파고와의 4차전 중반 소위 ‘신의 수’인 ‘78’수로 묘수를 두자 이를 예측 못하고 여러 번의 버그를 보였다. 이는 바둑에서의 패배로 끝나는 것이 아니라 자율주행차의 경우 탑승자 즉 인간에게 치명상을 초래할 수 있다.

학자들은 이런 우려에 대해 다소 맥빠지는 일이지만 대안은 생각보다 쉽다고 단언해서 이야기한다. 학자들이 과학이 인간의 두뇌를 복제할 수 있을 정도로 발달하더라도 똑똑한 로봇이 인간에게 반란을 일으키거나 거짓말을 할 수 없도록 만드는 것은 생각보다 쉬울 것으로 생각하는 것은 나름대로 근거가 있다. 그것은 로봇에게 프로그램으로 입력되지 않은 자의식이란 존재할 수 없기 때문이다. 이는 로봇의 행동은 모두 예측가능하다는 의미이다.

「매트릭스」에서도 인간이 해결할 수 있는 실마리는 엉뚱하면서도 해학적이다.

「매트릭스」 영화 자체로만 국한한다면 일반전화의 시스템을 바꾸거나 보다 근원적인 방법으로 전화코드를 빼 놓는 것이다. 전화코드를 빼 놓는다는 것은 인간이 IT를 포기한다는 의미로도 생각할 수 있지만 많은 학자들이 그러한 사태는 오지 않는다고 장담한다.

플러그를 뽑을 수 없을 상황이 되면 어떻게 하느냐이다. 한마디로 로봇이 자체 에너지를 생산하여 인간의 방해를 이겨나갈 수 있게 될 때를 상정하는 것이지만 이것이 불가능한 것은 기계와 동물은 출발부터 차이가 있기 때문이다.

기계는 에너지가 외부로부터 주입되어야 하지만 동물은 자신이 필요로 하는 에너지를 자신이 해결하는 시스템을 갖고 있다. 이 문제가 간단한 일이 아님을 알 수 있을 것이다. 「스타워즈」의 다스베이더, 「로버캅」의 머피는 온 몸이 기계로 되어 있지만 머리를 작동시키는 에너지는 죽과 같은 음식물로 제공한다.

과연 미친 과학자나 독재자가 탄생하여 언젠가 터미네이터나 사기꾼 로봇이 몰려올 것인지 아닌지를 예단하는 것은 간단한 일이 아니지만 적어도 인간에게 마지막 카드가 있다는 것은 상쾌한 일이다. 특히 한국에서 개발하는 로봇이 세계를 석권하더라도 우려할 일은 아니다. 그래도 아서 클라크는 날카로운 조언을 내놓았다.
 
‘컴퓨터에게 새로운 능력을 자꾸 부여하다 보면 언젠가 인간은 컴퓨터의 애완동물로 전락할 수도 있다. 그저 우리가 원할 때 컴퓨터의 플러그를 뽑는 능력만은 항상 보유하기를 바랄 뿐이다.’
 
이 말은 컴퓨터의 미래 즉 인공지능의 미래를 어둡게만 생각할 필요는 없다는 것을 뜻한다. 알렌 AI 연구소(Allen Institude for AI)의 CEO 오렌 엣치오니는 다소 완곡하게 다음과 같이 말했다.
 
‘인공지능에 불안해하는 사람들은 너무 먼 미래까지 생각하는 것이다. 인공지능은 인간에 다양한 기회를 부여해주는 것이지, 인간을 실험하기 위한 용도가 아니다. 사람들이 염려하는 대로 우려스러운 부분들이 있을 경우, 인공지능과 관련된 기술 개발을 지연시키면 된다.’
 
바둑에 관한 한 알파고의 알고리즘이 형세판단, 직관력은 물론 대담한 공격력과 바꿔치기 등 바둑 최고 고수의 성향을 무리 없이 소화해 내었다. 한국전자통신연구원(ETRI) 이정원 박사는 알파고에는 상대가 공격을 걸어오면 위축되기보다는 공격으로 맞서는 알고리즘이 있는 것 같다고 평가했다.

세계를 경악시킨 알파고는 인류가 태어난 이래의 인류의 노력, 지식, 경험이 차곡차곡 쌓여서 만들어진 인류의 작품임은 틀림없다. 그러나 알파고의 성공은 지능 로봇의 성공이 아니라 이제까지 생각하지 못한 유능한 프로그래머의 작품이라는 것이 보다 적절한 설명이다.

그들 역시 그동안 바둑계에서 진행되었던 기초적인 자산을 토대로 프로그램을 업그레이드시킨 것이다. 이는 이세돌에 대한 알파고의 승리는 인공지능 프로그램이 인간 작품의 상당부분을 해석하여 이를 판단하고 다음을 예시할 수 있다는 것을 의미한다.

알파고가 세계 바둑의 최강자 이세돌을 격파했다고 해서 인간의 범주를 초월한 것이 아니라는 것을 직시할 필요가 있다. 알파고를 성장시킨 인간의 능력을 볼 때 앞으로 수많은 분야에서 로봇의 지능 즉 인공프로그램이 각 분야에서 두각을 나타낼 것은 틀림없는 사실이지만 결론을 말하면 인간이 두뇌를 운용하는 방법을 모사할 수 없다는 것은 사실이다.

그것은 인간 두뇌의 뛰어난 작동을 인간조차 정밀하게 분석할 수 없다는 것으로 인간이 만드는 프로그램에 한계가 생긴다는 것은 자명한 일이다.

알파고가 인간들이 원하든 원하지 않든 새로운 세상을 열어주었다는 점에는 의문의 여지가 없다. 한마디로 깡통 로봇이 지능 로봇으로 변했고 이는 돌이킬 수 없는 새로운 시대를 열어 주었다는 것이다.

박상준 SF 평론가는 어느 시점에 도달해 모순적인 인간의 특징을 알아챌 경우 기하학적이며 미학적인 완전한 세계를 만들기 위해 인간이라는 요소를 배제시켜야 한다고 판단할 수도 있다며 다음과 같은 예를 들었다.

‘만약 '닭이 열 마리 반이 있을 때 다리는 전부 몇 개냐'라는 질문을 던지면 컴퓨터는 기계적으로 '21개'라는 답을 낼 것이다. 반면 사람은 '닭이 어떻게 열 마리 반이 있을 수 있냐'며 의문을 제기한다.

주어진 연산만 빠르게 수행하는 약한 인공지능과 달리, 강한 인공지능은 인간의 이러한 사고를 흉내 낼 수 있다. 이렇게 강한 인공지능이라면 언젠가 모순적인 인간의 특징을 알아챌 경우 기하학적이며 미학적인 완전한 세계를 만들기 위해 인간이라는 요소를 배제시켜야 한다고 판단할 수도 있다.‘
 
이 문제에 관한 한 현재의 컴퓨터 프로그램 즉 알고리즘 개발에 인간이 이 세상에 존재해야 하는 철칙을 심어 주려는 노력이 동반돼야 한다고 설명된다. 강한 인공지능이 인간을 단순하게 '아름다운 세계에서 무익하고 해로운 존재'로 인식하게 되면 극단적으로 「터미네이터」나 「터미네이터」같은 영화가 현실이 될 수 있다는 설명이다.

필자는 이에 대한 우려를 크게 갖지 않는다. 문제점이 있다는 것이 도출되었다는 자체가 문제점을 해결하는 실마리를 보여주고 있기 때문이다. (끝)
 
참고문헌
󰡔위험한 생각들󰡕, 존 브록만, 갤리온, 2009
󰡔인터넷 다음은 로봇이다󰡕, 배일한, 동아시아, 2003.
󰡔불가능은 없다󰡕, 미치오 가쿠, 김영사, 2010
『로봇, 인간을 꿈꾸다』, 이종호, 문화유람, 2007
『로봇, 사람이 되다(영화 속 로봇 이야기)』, 이종호, 과학사랑, 2013
『로봇, 사람이 되다(함께 사는 로봇이야기)』, 이종호, 과학사랑, 2013
「"이세돌·알파고 대결, 그 너머를 보자"…SF평론가의 조언」, 박상준, 노컷뉴스, 2016.03.08.
｢추론: 주인 취향 맞춰 비서 노릇 척척｣, 김명원, 󰡔과학동아󰡕, 2000. 6.
「[기고] 내가 알파고를 응원하는 이유」, 박상현, MK오피니언, 2016.03.11.
｢세계 최고수 꺾은 인공지능…형세 판단·직관력 인간 뛰어넘었다｣, 박근태, 한국경제, 2016.03.09

■ 이종호 과학국가박사   1948년 서울 출생. 고려대학교 건축공학과 졸업. 프랑스 페르피냥 대학교에서 공학박사 학위 취득. 1982년 과학기술처의 유치 대상 해외 과학자로 선정돼 프랑스에서 귀국해 한국에너지기술연구원(KIER)과 한국과학기술연구원(KIST)에서 연구원으로 활동했기.   '노벨상이 만든 세상',‘로마제국의정복자 아틸라는 한민족’등 85권의 과학 도서를 저술했다. 현재는 한국과학저술인협회 회장을 맡고 있다.