어제 창식이, 아니 테드 창이 방한해서 화제가 되었다. 중심 화제 중 하나는 인공일반지능(Artificial General Intelligence)였다. AGI가 가능할지, 언제쯤 가능할지, 등을 둘러싸고 각자 이런 저런 의견이 나왔다.
내가 인공지능을 다룬 첫 책 《인공지능의 시대, 인간을 다시 묻다》(2017)를 쓸 때 가장 먼저 다룬 주제가 ‘지능이란 무엇인가?’였다. 본래 의미의 지능이 무엇인지 알지 못하면서 ‘인공’ 지능을 다룬다는 것이 어불성설로 보였기 때문이다. 지능의 본래 의미를 알게 되면, 그것과 비교해서 인공지능이 지능인지 여부도 가릴 수 있게 될 것이다. 말하자면, 인공지능은 지능의 일종인지 아니면 비유적으로만 지능인지 말이다.
더 나아가 최근에 많이 거론되는 ‘일반지능(general intelligence)’과 ‘특수지능(specific intelligence)의 차이도 분명히 할 필요가 있다. 왜냐하면 인공지능이 특수지능이라 하더라도 꼭 일반지능으로 간다는 근거도 논리도 경로도 없기 때문이다. 《인공지능의 시대, 인간을 다시 묻다》의 3장(마음과 생각)과 7장(무엇을 어떻게 학습할까?)에서 나는 지능의 정체를 논하면서, 그레고리 베이트슨(Gregory Bateson)의 사상이 이 논의를 다루는 데 결정적인 단서를 준다고 주장했다(동시에 대니얼 데닛, 더글러스 호프스태터의 논의가 얼마나 안이한지도 논증했다).
“마음이 철학적 개념인 데 비해 지능은 생물학적 개념입니다. 지능은 환경에 상대적이에요. 특정 환경에서 문제를 해결하는 능력이 지요. ‘환경 일반’이라는 건 없거든요. 진화 과정에서 생존과 번식에 성공하면 지능이 있다고 해야 합니다. 그런데 우리는 지능도 인간 중심적으로 생각하는 데 익숙해져 있어요. 인간 아동과 비슷한 지능을 가진 동물들을 말하곤 하니까요. 하지만 ‘각 종마다 일정 수준의 지능을 갖추고 있다’라고 해야 적절합니다. 정글에서는 침팬지가, 바다에서는 돌고래가 더 ‘똑똑하다’라고 해야 하니까요.”(《인공지능의 시대, 인간을 다시 묻다》, 120쪽)
인공일반지능을 둘러싼 현재의 논의가 진도가 안 나가는 이유는 개념 정의가 안 되어 있기 때문이다(최예진 교수도 내 생각에 동의하고 있다). 인공지능에게 ‘환경’이 있는지, 또 환경이 초래하는 ‘문제’가 있는지에 대해 잘 답한 사람은 저 유명한 스튜어트 러셀과 피터 노빅이다(아래 그림은 《인공지능의 시대, 인간을 다시 묻다》 76쪽에서 재인용).
세계적으로 가장 많이 교과서로 채택되어 가르쳐지는 저 유명한 《인공지능: 현대적 접근》 3판(2010)에 나오는 한 구절을 인용하겠다(4판(2022)에서는 기계학습 관련 내용으로 대폭 수정되었음).
“무엇이 좋고 무엇이 나쁜지에 대한 되먹임이 없으면, 에이전트는 다음 수를 결정하기 위한 근거가 없을 것이다. … 이런 종류의 되먹임을 보상 reward 또는 강화 reinforcement 라고 부른다. … 에이전트에 대한 우리의 구상은 보상을 입력 지각의 일부로 간주한다. 하지만 지각의 일부가 단지 또 다른 감각 입력이 아니라 하나의 보상임을 에이전트가 알아채기 위해서는 [판별 기준이] ‘내장 hardwire 되어’ 있어야만 한다. 동물들은 고통과 배고픔을 부정적 보상으로 알아채고 쾌락과 음식 섭취를 긍정적 보상으로 알아채도록 내장되어 있는 것처럼 보인다.”(《인공지능의 시대, 인간을 다시 묻다》 336쪽에서 재인용, 강조는 생략)
요컨대, 인공지능에게는 동물의 ‘환경’이나 ‘문제’에 해당하는 것도 없다는 것이 러셀과 노빅의 단언이다. 모든 것은 인간의 지시 혹은 지도에 따른다(저 위 그림의 왼쪽 상자 바깥에 놓인 ‘수행 기준’에 주목). 옛날 식으로 표현하면, 인공지능은 인간의 노예다. 또한 일반지능은커녕 특수지능을 지녔다고 말하기도 어렵다. 지능은 ‘환경’과 ‘문제’에 연동된 능력이기 때문이다. 따라서 인공지능이라는 말의 ‘지능’은 다만 비유에 불과하다.
물론 이에 대한 반론도 많다. 근데 러셀과 노빅한테 반론을 직접 안 하는 이유는 정말 궁금하다. 요컨대, 인간(동물, 생명체)을 기준으로 ‘지능’을 말하면 안 된다는 것. 새가 나는 걸 흉내 내서 비행기를 만든 게 아니다, 운운. 하지만 새가 나는 것과 비행기가 나는 건 모두 유체역학이라는 단일 원리에 기반한다. 나는 지능에 대해 말할 때도, 단일한 지능을 밑에 깔고 논해야 한다고 본다. 그렇지 않으면, 멍멍 짓는 개와 하늘의 별자리 개가 ‘개’라는 명칭을 공유한다고 서로 호환해서 쓰는 일이 벌어질 것이다.
Comments