인공지능이 지배할 세상이 무섭다는 아들에게

 

인공지능이 지배할 세상이 무섭다는 아들에게
- ‘기계는 어떻게 생각하는가(손 게리시)’를 읽고

  인공지능이 발전하면서, 이들은 스스로 퀴즈를 풀고 바둑챔피언이 더 이상 이길 수 없을 정도로 똑똑해졌고, 자동차를 직접 운전하고 스스로 학습하며 게임을 할 만큼 다양한 분야에서 자신들의 존재를 과시하고 있다. 아들이 아빠에게 묻는다. 그럼 인공지능이 금방 진화해서 지구를 지배하고 사람들은 인공지능의 명령을 듣게 되나요? 아빠는 이 책과 여러 다른 내용들을 참고하여 미래의 기계 또한 여전히 프로그램에 따라 작동할 것이며 끝없이 발전할 것이라고 이야기하면서, 동시에 두려워할 것은, 기계가 사람의 자리를 채우고 기계가 사람을 지배하는 것이 아닌 사람이 기계처럼 단순히 지능과 행동을 모방하며 다들 생각 없이 똑같이 사는 것이므로 호기심과 아름다움 탐구 같은 인간 본성을 극대화할 수 있는 다양한 활동들을 하면서 방학을 알차게 보내보자고 이야기하려 한다.

모라벡의 역설

  카네기멜론대학교의 한스 모라벡 교수는 이런 말 을 했어. “어려운 것은 쉽고, 쉬운 것은 어렵다.”. 다섯 살배기 아이한테는 쉬운 일이 기계한테는 어렵고, 반대로 기계한테는 쉬운 일이 인간에게는 어려운 상황을 이야기하는 거야. 무슨 말이냐면, 예를 들어 아빠가 너희 어렸을 적 장기를 가르쳐 줄 때 직선이 교차하는 곳에 장기알을 두어야 한다고 한번 이야기하면 그 뒤로는 알아서 장기판과 장기 알을 가져와서 장기를 두는 시늉을 했어. 그리곤 금방 규칙도 익혔지. 근데 기계는 달라. 장기판이 뭔지, 장기판에 그려진 선은 어떻게 그려져 있는지 장기 알이 어떻게 놓여 있는지, 장기 알의 종류는 뭔지 각각의 구조를 파악해 원하는 위치에 말을 정확하게 두는 건 정말 어려운 일이야.

  그런 기계가 사람처럼 움직일 수 있게 기계에 지능을 부여한다는 말은 수많은 규칙을 일일이 입력해야 하는 일이었어. 카메라로 입력받은 영상에, 주황색 덩어리가 있는가? 사각형인가? 내부에 검 은 선이 그려져 있는가? 기계 팔을 움직이면 닿을 거리인가? 기계 팔이 잡은 장기알은 어떤 알인가? 장기판의 색상 값부터 검은 선의 개수와 간격, 장기알이 어디에 있으면 팔은 몇 도를 돌려서 얼마나 움직여야 하는지 하나하나 정해줘야 하는 거지. 그런 일을 스스로 학습하게 한다는 것은 더 어려운 일일 테고. 하나의 규칙도 스스로 만들어 내진 못해.

  그런데 계산기를 생각해 보면, 엄청나게 많은 숫 자를 더하고 곱하는 것도 금방 하잖아? 컴퓨터가 그 계산기가 발전된 형태라는 걸 생각해 보면 어쨌든 시킨 일에 대해서는 잘하는 구석이 있는 거지.

자율 주행 자동차 

  움직이는 기계 하면 자율 주행 자동차가 먼저 생각이 나. 아빠가 어렸을 땐 ‘전격 Z작전’이라는 미국 드라마가 유명했는데, 거기선 시계에 ‘키트, 빨리 와줘’라고 명령하면 검은색 멋진 자동차 ‘키트’가 그 아저씨 앞에 나타나 주곤 했어.

  자율 주행 자동차를 모아 실제로 자동차 경주를 시작한 건 2010년이었데. ‘험비’라는 자동차가 사막을 잘 달리게 하려고 크리스라는 아저씨가 각종 규칙을 고쳐가며 담요를 뒤집어쓰고 사막에서 고생을 했지. ‘앞으로 달려’라고만 명령하면 사람보다 훨씬 빠르게 직선거리를 달리겠지만 사막도 일반 도로만큼은 아니어도 울타리나 바위 같은 장애물, 언덕 같은 지형 변화가 많아서 두 시간 전에 받은 GPS 지도만으로 목적지에 도착하는 데엔 무리가 있었지. 무선조종 자동차처럼 원격에서 운전하는 것이 아니라 운전은 기계가 판단할 수 있도록 하되 끊임없이 주변에 있는 장애물이나 도로, 지형의 변화에 대해 ‘험비’에 알려주어야 했어. 그 정보들을 이용해서 ‘판단’을 잘할 수 있는 규칙 또한 사람이 작성한 프로그램이고, 여러 갈래의 길 중에 더 좋은 경로를 탐색하는 알고리즘 또한 사람이 만든 방법이야.

유한 상태 기계

  ‘험비’가 사람이 실시간으로 주는 지도와 장애물 정보만 가지고 운전을 했던 건 아니야. 라이다라고 하는 센서가 달려 있었어. 너희가 밤에 자다가 일어나서 실눈을 뜨고 화장실에 갈 때 앞에 벽이 있는지 문은 어디 있는지 어렴풋이 보면서 걷잖아. 딱 그 정도 장애물을 피해서 좌우로 움직일 수 있는 수준이었지. 뭐 그마저도 잘 보이지 않아서 결국은 갓길로 미끄러져 바위에 충돌해 버렸지만.

  요즘 길에 다니는 자율 주행 자동차들은 성능이 더 좋고 더 많은 종류의 센서를 달고, 그리고 더 빠른 컴퓨터를 탑재하고 센서의 신호를 처리해 가며 달리고 있어. 하지만 기본적으로 동작하는 방식은 ‘험비’와 비슷해. 자동차가 달리면서 고려해야 할 상황을 몇 가지 상태로 제한하고, 그 상태를 빠르고 정밀한 센서들이 미리 판단해서 프로그램에 알려주는 거야. 현재 자동차가 달리고 있는 위치나, 차의 속도 같은 차량의 상태, 여기가 일반 도로인지 고속도로 인지, 흙길인지 다리 위인지 알 수 있는 도로의 상태, 도로의 차선이 실선인지 점선인지, 노란색 중앙선 인지, 도로의 경계는 어디 있는지 나타내는 차선의 상태. 그리고 앞에 사람이 튀어나오진 않는지, 앞차는 얼마의 속도로 달리고 있고 거리가 너무 가깝진 않은지 등 장애물의 상태 등 고려해야 할 여러 상태를 유한개로 한정하면 프로그램이 훨씬 빠르게, 편하게 판단을 할 수 있겠지. 마치 엄마가 아빠의 상태를 ‘배고픈 상태’, ‘졸린 상태’로 한정하고 밥을 주거나 잠을 재우거나 하듯이 말이야.

이동 계획

  동현이가 자동차를 운전해서 할머니 집에 간다고 생각해 보자. 지도를 보면서 우리 집과 할머니 집의 위치를 찾고 도로의 연결이 어떻게 되어 있는지 어느 길이 빠를지 자로 거리를 재어 보기도 하고, 평소 막히는 길인지 아닌지 검색을 해보기도 하겠지. 이런 걸 경로계획이라고 해. 그런데 정작 차에 타서 달리기 시작하면 생각이 복잡해져. 내 차가 지금 어디쯤 있는지 알아야 하고 속도나 방향도 계속 신경 써야 하지. 차는 일단 가던 방향으로, 앞으로 계속 가니까 혹여 차선을 바꾸거나 고속도로에서 빠져나가려면 가속을 하거나, 운전대를 틀 때 너무 속도가 빠르지 않도록 하거나, 급정거하지 않도록 하는 ‘이동 계획’을 해야 해. 앞으로 몇 초 정도 달릴 짧은 경로를 탐색해서 세운 단시간의 이동 계획 말이야.

  내 상태를 알고 나면 이제 밖의 상태를 알아야 이동 계획을 더 잘할 수 있겠지? 센서에서 주는 상태정보를 이용해서, 도로 가장자리가 어디쯤 있고 지금 이 속도로 가면 언제쯤 핸들을 움직이면 될지 계획하고, 장애물이 있으면 그게 고정된 장애물인지 함께 이동하는 장애물인지 추적할 필요가 있을 거야. 시내 주행을 할 때는 더 복잡할 테고. 이렇게 관측한 장애물의 위치와 속도, 속도 증가나 감소량을 추적하고 그 움직임을 예측하는 데에 칼만필터라는 알고리즘이 사용된단다. 이 칼만필터는 오차 공분 산이니 이득이니 저주파필터 같은 복잡한 수식을 통해 만들어지지만, 사실은 혁이가 이해할 수 있을 정도로 간단한 내용이야. 혁이가 형아를 툭 치고 도망갈 때 왼쪽으로 막 뛰어가다가 형아를 잠깐 보고 오른쪽으로 갈까 왼쪽으로 갈까 갈팡질팡 하다가 다시 왼쪽으로 막 뛰어가. 혁이가 얼마나 빨리 도망가는지 보고 있었으니까 혁이가 조금 천천히 뛰거나 방향을 바꾸려고 하면 낌새를 쉽게 눈치채고 다음 행동을 예측할 수 있잖아. 그렇게 계속 지켜보는 걸 관측이라고 해. 자세히 지켜보면 빠른 변화를 예측할 수 있고, 조금 멀리서 보면 속일까 말까 장난치는 것에 동요되지 않고 혁이의 전체 동선을 추적할 수 있지. 고속도로에서, 일반 도로에서, 주차장에서 이 칼만필터를 사용하는 추적의 방법도, 이동 계획도 모두 바꿔가며 운전을 할 수 있어야겠지?

로봇 3원칙 

  자율 주행 자동차의 판단을 맡고 있는 컴퓨터는 이렇게 추적된 물체들을 우리가 눈으로 보는 것처럼 막 예쁘게 보고 있진 못해. 어떤 물체를 풍경의 일부가 아니라 3차원 격자 위의 상자나 좌표 따위로 인식하지. 내 중심 기준으로 시야에 들어오는 사각 형과 일정한 거리를 유지하기 위해 사각형 뒤를 따라 주행하던가 다른 차선으로 피하는 형태로 프로그램이 판단하니, 생각해 보면 컴퓨터 입장에선 좀 삭막하긴 하겠다. 그런 이유에서도 자동차가, 기계가 사람을 헤치진 않을지 걱정이 될 수 있겠지만 사실 로봇의 행동을 제어하는 프로그램에는 3가지 원칙이 존재해.

  첫째, 로봇은 인간을 해치는 행동을 하거나 인간에게 해가 되는 행동을 방치해서는 안 된다. 둘째, 첫 번째 규칙을 어기지 않는 한 로봇은 인간의 명 령에 복종해야 한다. 셋째, 두 번째 규칙을 어기지 않는 한 로봇은 자기 자신을 보호해야 한다.

  그런데도, 로봇은 오류를 범해. ‘험비’가 장애물을 발견하고 좌우로 피하려다 갓길로 미끄러져 바위에 충돌했던 것처럼, 이후에는 자율 주행 자동차가 보행자를 치어 사망케 하거나 트럭이랑 충돌해 운전자가 사망하는 사고도 있었지. 한편에서는 도심 속을 운행하다 갑자기 무단횡단하는 아이를 발견했을 때 자율 주행 자동차가, 그 아이를 치고 지나가거나 옆 차선으로 급 차로 변경을 하여 옆 차량의 할아버지 운전자를 죽게 하거나 좌측으로 핸들을 급히 꺾어 전봇대에 부딪혀 운전자가 사망할 수 있는 상황에서 어떤 선택을 하도록 프로그램되어야 하는지 같은, 극단적인 상황에서의 윤리적인 고민을 하는 사람들도 있어. 동현이 동혁이라면 어떤 선택을 할 것 같아? 사람들 각각의 생각의 깊이는 참 다르지?

게임하는 인공지능

  너무 복잡한 얘기를 오래 한 것 같아. 너희들이 인정하고 싶지 않겠지만, 너희들이 좋아하는 게임 이야기를 좀 해보자. 지금까지는 시켜서 하는 일에 대해서, 필요가 있는 일에 대해서 어떻게 기계가 생각하고 움직이는지 이야기했어. 이것도 기계가 사람처럼 생각할 수 있게 프로그램하는 거니까 인공지능이라고 했어. 그런데 최근에 이야기하는 인공지능은 더 높은 수준을 원해. 100개 중에 다섯 개만 가르쳐 주고 100개가 각각 뭔지 스스로 학습해서 맞춰보라고 한다든지, 아예 배워야 하는 게 무엇인지조차도 가르쳐주지 않고도 뭔가 해내라고 하지.

  딥마인드라는 곳에서 ‘스페이스 인베이더’라는 게임을 인공지능이 스스로 학습할 수 있도록 준비를 해줬어. 화면을 보고 조이스틱과 미사일 버튼을 누르는 신호를 발생토록 하여 게임을 하게 한 거지. 그런데 우주선을 왼쪽으로 움직이기 위해 조이스틱을 왼쪽으로 움직이고, 미사일을 발사하기 위해 버튼을 누르고, 미사일을 발사해서 외계인을 맞춰 파괴해야 점수를 얻을 수 있다는 사실을 프로그래머가 프로 그램하지도 프로그램에 알려준 적은 없어. 심지어 우주선이 뭔지 외계인이 뭔지 따위의 정보도 주지 않았지. 오로지 점수만 높게 나오게 하라고 학습을 명령했지.

  인공지능은 멈추지 않고 계속 게임을 했어. 화면의 스크린샷을 입력으로 받아 픽셀들의 현재 상태를 인식하고 이를 바탕으로 어떤 조작을 할지 결정하지. 이렇게 움직여보고, 또 저렇게 움직여보고, 그것들을 다 기억해 내서 어느새 사람보다 훨씬 더 게임을 잘하게 되었다고 해.

  아쉽게도 이렇게 게임을 잘하는 인공지능도 다른 게임은 못한데. 그 게임에만 특화된 행동을 기억하는 거지. 49개의 게임 각각을 완벽하게 해내는 인공지능을 다 합해도 사실 그 친구들은 너희처럼 게임기를 제자리에 가져다 놓을 수도, 심지어 전원을 끌 수도 없어.

알파고

  동현이 동혁이는 아빠보다 바둑도 잘 두고, 더 많이 아니까 바둑을 두는 인공지능 알파고에 대해 서도 많이 들어 봤을 거야. 이세돌 아저씨가 알파 고와의 대결에서 둔 ‘신의 한 수’에 대한 이야기도.

  알파고는 바둑판 전체에 대해 상대가 돌을 둘 확률을 계산하고, 확률이 높은 곳들의 다음 수, 다 다음 수를 계속 예측하고 승리할 확률을 계산해. 매수마다 모든 경우의 수를 계산하고 가장 높은 확률의 자리에 돌을 두지. 사람은 직관으로, 놓아야 유리할 것 같은 곳에 돌을 두지만, 알파고는 모든 곳의 경우의 수를 계산하기 때문에 절대 질 수가 없을 것만 같았지. 그런데 워낙 계산할 경우의 수는 많고 시간은 정해져 있다 보니, 조금 전에 말한 것처럼 상대가 돌을 둘 확률이 높은 곳을 위주로 이길 확률 계산을 했던 거야. 그리고 절대 놓을 리가 없을 것 같던 곳에 이세돌 아저씨가 돌을 두면서 알파고를 정신없게 만들어 버린 거지.

  그 이후로 그 누구도 알파고를 이긴 사람은 없어. 심지어 알파고는 이제 기존의 기보를 학습하지도 않아. 바둑의 규칙만 가지고 인공지능 두 개가 서로 바둑을 두며 실력을 키워나가지. 바둑은 이제 사람들이 인공지능을 절대 이길 수 없는 영역이 되었어. 사람들이 계산기의 계산능력을 이길 수 없는 것처럼 말이야.

  그런데 말이야, 바둑을 하는 사람들은 이제 인공 지능을 이길 수 없으니 바둑을 그만해야 하는 걸까? 바둑을 직접 둘 수도 없고 어디에 두었는지 좌표를 일일이 가르쳐 주어야 하는 그런 알파고 때문에?

가치 있는 일이란 뭘까?

  아빠와 함께 살펴본 것처럼 로봇은, 기계는, 그리고 인공지능은 인간의 행동과 생각을 흉내 내는 다양한 형태의 컴퓨터 프로그램이란다. 자율 주행 자동차도, 게임을 학습하는 인공지능도, 바둑이나 체스를 두는 알고리즘도 사람이 시킨 딱 그 일, 그 목적에 맞는 단일한 업무만을 수행하지. 앞으로도 한동안은, 적어도 우리 동현이 동혁이가 아빠 나이가 되었을 때까지도 그럴 거야.

  우리가 걱정해야 할 내용은 사실 이 지점이야. 인공지능은 사람의 필요 때문에 만들어진 거야. 인공지능에 내 일을 빼앗기지 않을까 걱정하는 게 아니라 어떤 인공지능을 만들어 내 일을 대신하게 할 수 있는지, 어떤 인공지능을 활용해서 내가 조금 더 편하게 더 가치 있는 일에 몰두할 수 있을지 고민해야 하지. 물론 게임이나 바둑같이 재미있는 건 기계가 아닌 사람과 함께해야 재미가 있겠지?

  무엇이 가치 있는 일일까 생각하는 일은 또 다르게 복잡한 일이야. 아빤 너희가 가진 창의성과 엉뚱함이 발휘되는 호기심을 존중해. 질문을 많이 듣고 싶어. 그건 인공지능이 못하는 일이잖아. 인공지능도 학습을 위해 ‘이건 뭐예요?’라는 질문을 할 수 있어. 그건 너희들이 어렸을 때 아빠에게 주로 했던 말이지. 너희는 성장했고, 지금은 ‘아빠, 이런 이야기를 갑자기 왜 하시는 거예요?’, ‘아빠 어제 술 많이 드셨어요? 왜 이렇게 피곤해 보이시나요?’, ‘아빠 얼굴에 점이 막 생겨나고 있는 것 같아요’ 같은 질문을 하지. 너희가 관찰하고 너희가 느끼고 너희가 말하고 싶은 이야기들을 하는 것이 가치 있다고 생각해. 너희가 더 자유롭게 더 많은 질문을 하려면 그만큼 더 많이 보고 많이 알아야 해. 아는 만큼 더 많이 궁금해지고 더 많이 신기해할 수 있으니까. 책도 많이 보고 더 많이 나가서 세상을 바라볼 수 있어 야해. 그래서 아빠는 늘 너희를 어딘가로 데리고 가고 싶어 하지. 공원이든 미술관이든.

  너희는 숙제할 시간이 부족하고 게임할 시간은 더 부족해서 안 나가고 싶다고 하지. 할 일이 너무 많은데 뭘 먼저 해야 할지 고민이라고 이야기할 거야. 이 복잡하고 고민 많은 세상에, ‘유한 상태 기계’처럼 생각을 단순화하고 필요한 판단부터 먼저 할 수 있는 것도 중요해. 생각하고 용기를 내고 판단하고 실천할 수 있는 건, 그렇게 더 큰 세상으로 성큼 내디딜 수 있는 건 동현이 동혁이 같은 ‘인간’만이 오롯이 가진 장점이니까. 우리 당장 일기만 좀 써놓고 안양천이라도 좀 걷고 오는 건 어때?

아빠는 너희를 사랑해

  아빠가, 기계는 어떻게 생각하는지에 관한 내용을 이야기해 준다고 하고선 어느새 잔소리를 늘어놓고 있었구나. 아빠가 해줄 수 있는 설명은 무궁무진하 지만, 이후엔 너희들의 질문을 받아 또 이야기하면 좋을 것 같아.

  아직도 인공지능이 세상을 지배할 거로 생각해? 너무 겁내거나 복잡해하지 않으면 좋을 것 같아. 자율 주행 자동차가 그랬던 것처럼 정보를 얻을 때 아는 것과 모르는 것을 먼저 구분하고 모르는 것, 새로운 것은 잠깐 밀어 두고 아는 것부터 먼저 떠올려봐. 모든 것은 흐름이 있어. 아는 것들을 오래 보고 있으면 칼만필터를 적용할 때처럼 다음이 어떻게 될지 예측이 되기도 하고, 그 새로운 것, 모르는 것이 무엇인지 찾아가는 방법도 알게 될 거야. 관측을 촘촘하게 하고 있으면 갑작스러운 변화에도 적응할 수 있지. 계속해서 인공지능의 발전을 지켜보고 있으면 그렇게 두려워하지 않아도 될 거야. 혹시라도, 정말 혹시라도 아빠의 이야기 보다 훨씬 빠르게 인공지능이 발전해서 인공지능이 우리를 공격하면 그땐 아빠가 너희를 꼭 지켜줄게.

  너희가 아빠의 설명을, 이런 단어를 알아듣고 끄덕끄덕하고 있어서 기특해. 고마워. 무엇보다 아빠는 너희들을 사랑해.

 

references

1. 숀 게리시, “기계는 어떻게 생각하는가?”, 이지스 퍼블리싱, 2019
2. 박상길, “비전공자도 이해할 수 있는 AI 지식”, 반니, 2022
3. 더멋 튜링, “계산기는 어떻게 인공지능이 되었을 까?”, 한빛미디어, 2019
4. 김명락, “이것이 인공지능이다”, 슬로디미디어, 2020
5. 박수현, “우버 자율주행차에 보행자 치여 사망…시험 운행 중단”, 조선일보, 2018