‘2025 경향포럼'(6월 25일)을 계기로 마련된 특집 인터뷰 기획이 흥미롭다. 이번 주제는 ‘초가속 시대의 도래: 공포를 넘어 희망으로’인데, 나는 연사와 진행자로 1인 2역을 맡는 행운을 누리게 되었다. 내 발표문은 행사가 끝나고 공개하기로 하고, 동의하는 발언을 중심으로 인터뷰에 등장한 석학들의 조언에 귀 기울여 보기로 하겠다. ‘기술’을 둘러싸고 ‘사회’가 펼쳐야 할 주제와 논쟁점이 거의 망라되어 있다. 군데군데 나의 코멘트도 살짝 곁들이겠다. 인터뷰 전문은 행사 홈페이지의 ‘미디어 > 뉴스’를 참조하면 된다.
특집 인터뷰 ① ‘3차 산업혁명’ 어떻게 맞이해야 하나, 제러미 리프킨 미국 경제동향연구재단 이사장. “역사상 가장 큰 위기이자 기회…AI, 매우 제한적 활용을”
“19세기와 20세기의 1·2차 산업혁명은 모두 중앙집중형이었다. 화석연료를 땅에서 뽑아 인프라를 구축했다. 일명 ‘마이너스적 제조 방식’인 것이다. (…) 그 결과 우리는 500개의 글로벌 기업을 갖게 됐고, 그들이 세계 국내총생산(GDP)의 3분의 1을 차지하고 있다. 그리고 그 피라미드 구조의 꼭대기에 있는 상위 8명의 부자는 전 세계 인구 절반이 가진 부를 합친 것과 맞먹는 자산을 보유하고 있다.”
“지금 모두가 지정학적 갈등과 관세전쟁에 대해 걱정하고 있지 않나. 그런데 사실 지금 우리가 목격하고 있는 것은 새로운 시작이 아니라 기존 지정학적 세계의 붕괴, 즉 ‘끝 지점(Endgame)’이라고 볼 수 있다. 우리가 앞으로 보게 될 것은 지정학적 세계가 아닌 ‘생물권 지역 중심의 지배구조’일 것이다. 홍수나 가뭄, 폭염, 산불, 허리케인 같은 현상들은 국경이나 정치적 경계를 따지지 않고 발생한다. 선택의 여지가 없다.”
“전 세계 모든 국가가 여전히 지정학적 프레임에 갇혀 있다고 생각한다. 특정 국가만의 문제가 아니다. 모두가 그런 식으로 움직이고 있다. (…) 어떤 국가가 정말 똑똑해지려면, 이제는 지정학에서 생물지리권으로, 글로벌에서 ‘글로컬’, 즉 지역화된 글로벌 네트워크로 전환해야 한다. 이게 좋은 생각이어서가 아니라 다른 대안이 없기 때문이다.”
“나는 항상 ‘희망은 갖되 순진하지는 말아야 한다’고 말한다. 나는 낙관주의자도, 비관주의자도 아니다. 낙관주의자는 그냥 좋은 소식이 오기만을 기다린다. 그런데 그런 일은 잘 안 일어난다. 반면 비관주의자는 나쁜 소식을 기다리며 멈춰 있는데 그건 자기 자신을 마비시키는 방식이다. 앞으로 20년 안에 내가 말한 패러다임 변화가 반드시 일어날 텐데 그 전에 치명적인 일이 벌어지지 않기를 바란다.”
‘AI가 인류를 지배할 수도 있다는 주장에 대해서는 어떻게 생각하나.’라는 질문에 대해… “다들 영화를 너무 많이 봤다. 로봇이 우리를 대체할 것이라고? 정말 유치하고 미성숙한 생각이다. 그런 걱정은 말도 안 된다고 생각한다. 다만 AI가 위험할 수 있다는 건 맞는 말이다. 왜냐하면 우리가 주체성을 잃게 될 수 있기 때문이다. AI가 내 과제를 대신 써주고 교수가 그걸 알아차리지 못한다면, AI에게 결정권을 넘겨주는 것과 다름없다. 도움은 받되 매우 제한된 방식으로 사용해야 한다. 과제를 대신 쓰게 해선 안 된다. 그리고 AI는 인간의 사고력과 절대 경쟁할 수는 없다. AI는 ‘경외’를 느낄 수 없기 때문이다. 경외란 허리케인이나 토네이도, 거대한 산맥을 보고 느끼는 ‘이건 내 능력을 넘어선다’는 감정이다. 경외는 놀라움으로, 놀라움은 상상력, 상상력은 공감, 그리고 초월로 이어진다. 이런 것은 인간만이 할 수 있는 일이다.” – (코멘트) 영화를 너무 많이 봤다는 말! 그렇다, SF는 현실이 아니다. 오히려 결정권을 넘겨줘 주체성을 잃게 되리라는 전망이 현실이다. 이번 포럼 내 강연 주제이기도 하다. ‘경외’라는 표현을 보니 ‘숭고’라는 감정이 더 낫겠다 싶다. 아니면 인간에게만 있는 ‘초월 능력’.
“내가 한국인들을 만나면 항상 묻는 게 있다. ‘2차 세계대전 이후, 한국은 어떻게 세계에서 가장 강력한 나라 중 하나가 됐나?’ 아일랜드도 마찬가지다. (…) 생각해보니 두 나라가 공통으로 가지고 있는 요소가 있더라. 오랫동안 다른 나라에 점령당하고 억압받았다는 점이다. (…) 그런 상황에서 살아남기 위해서는 매우 영리해야 했다. 생존이 걸린 문제였으니 끊임없이 생각해야 했다. 억압 속에서 그들은 자신의 문화, 철학, 세계관을 지켜냈다. 살아남고 적응하는 법을 배운 것이다. 기후위기를 겪고 있는 지금 전 세계가 필요한 것도 바로 그 ‘생존과 적응’ 능력이다. 한국인과 아일랜드인이 억압 속에서 문화를 지켜낸 것처럼 기후위기 속에서 우리는 인간성과 문화를 지켜내야 한다. 어떻게 그들은 생존하고 적응하는 법을 배웠는지 세계가 한국과 아일랜드를 주목해야 한다.”
특집 인터뷰 ② 민주 사회와 기술 간 상호작용의 탐구자, 지나 네프 케임브리지대 민더루 센터장. “AI발 사회 전환, 빅테크·개발자 목소리만 들어선 안 돼”
“현재 AI와 관련해 주로 들리는 목소리는 AI를 개발하고 발전시키는 사람들의 목소리다. 하지만 그들이 모두를 위한 규칙을 주장해서는 안 된다. (…) 정부의 역할은 한 산업의 성장만을 가속하는 게 아니라, 사회에 가장 이로운 방식으로 다양한 요구를 균형 있게 조정하는 것이다.”
“산업계가 혁신을 주도하고 있는 것은 사실이지만, 그들이 AI 관련 유일한 이해관계자는 아니다. 문제의 해결책은 기술적일 뿐만 아니라 사회적이어야 한다.” – (코멘트) 기술 문제라고 해서 기술자와 산업계의 목소리만 들리는 건 옳지 않다. 사회 구성원 전체가 이해 당사자다.
영국 정부가 발표한 ‘AI 기회 행동 계획(AI Opportunities Action Plan)’과 관련해서… “정부가 기술 기업에 제공할 인센티브에 지나치게 집중하다 보면 (AI 업종이 아닌) 다른 기업이 전환을 위해 필요로 하는 인센티브, 교육, 디지털 권리 등에는 관심을 덜 기울이게 된다. 정부는 구속력 있는 법을 만드는 것 외에도 여러 일을 할 수 있다. 특정 유형의 연구를 향한 (직접) 투자, 투자 유도, 원칙 및 제도적 틀 수립, 이해관계자들을 논의의 장에 모으는 일 등이다. AI 발전을 승자와 패자를 가르는 경주(race)로만 보면 우리는 AI가 미래를 만드는 일(building)이라는 측면은 간과하게 된다. 이를 소수의 개발자에게만 맡긴다면 우리는 미래의 다양한 가능성을 놓치게 될 것이다.”
“AI는 사람들이 업무를 처리·수행하는 데 유용한 도구가 될 수 있다. 문제는 우리가 준비되지 않았다는 점이다. 지금도 일부 사람들은 생성형 AI가 무엇이며 그 한계가 어디인지 이해하고 사용하지만, 전환에 두려움을 느낄 뿐 준비가 되지 않은 사람들도 있다. 이같은 불평등과 소외는 정부가 반드시 해결할 과제다.”
“기술 기업들은 자신들만이 해결책을 갖고 있다고 세상에 팔고 싶어 하지만, 나는 그것이 불가능하다고 말하고 싶다. 아무리 기술이 뛰어나도, 안전하고 공정하며 평등한 전환을 위해선 사회적·문화적·정치적 접근이 반드시 필요하다.” – (코멘트) 장사꾼의 목소리를 경계해야 한다.
“사람들의 삶과 생계에 영향을 미치는 자동화된 결정에 대해선 투명성이 요구된다.”
“정부는 두 가지 도전에 동시에 직면해 있다. 기후 재앙을 막기 위해 기후 목표를 달성해야 하고, 동시에 AI의 성장과 수요도 충족시켜야 한다. 그렇다면 누구의 가치가, 누구의 요구가 우선인가? 기술 기업들은 AI가 기후 변화의 해결책이라고 주장하지만, 기후 재앙을 막을 시간이 다 지나고 나면 AI가 아무리 발달해도 우리를 구할 수 없다. (…) 이런 결정은 개인이 AI를 더 많이 또는 더 적게 사용하는 문제와는 거리가 멀다. 변화는 AI 개발 경로를 어떻게 설계할지, 점점 늘어나는 에너지 수요와 잠재적으로 줄어드는 한계 이익 사이에서 어떤 길을 갈 것인가에 관한 문제다. 우리는 정말로 ‘얼마나 많은 AI가 필요한가’, ‘어떤 용도와 어떤 경우에 필요한가’, ‘어떤 대가를 치러야 하는가’라는 어려운 질문들을 해야 한다.” – (코멘트) 더 많은 질문이 필요하다.
“우리는 오랜 기간 ‘팍스 테크니카(Pax Technica)’라고 불리는, 미국 실리콘밸리 주도의 성장 모델 속에 있었다. 하지만 (…) 우리는 지금 지정학적 재편의 순간에 직면해 있다. 전 세계 정부는 이같은 변화에 대응할 준비를 해야 하며, 자국에 가장 적합한 결정을 내릴 수 있는 통치 역량을 발휘해야 한다. 기업, 시민사회 수준의 움직임도 가능하다.”
“확실한 것은 더 많은 사람이 이 대화에 참여해야 한다는 것이다. 지금 우리는 AI를 어떻게 활용해 모두에게 이로운 성장을 이끌 수 있을지 인식하고 논의할 수 있는 순간에 들어서 있다. 이 기회를 놓친다면, 모든 인간에게 이익이 되는 디지털 미래를 만들 기회를 놓치게 된다. AI는 중립적인 도구가 아니다. 시민을 감시하고, 의사 결정을 중앙집중화하며, 투명성을 가리는 데에 매우 강력한 도구다. 우리가 AI에 맞서 민주주의를 강화하기 위해 노력하지 않는다면 우리는 더 강력하게 중앙집중화되고 고착화된 권력에 지배받게 될 것이다. AI 도구가 전능하다는 인식은 그 도구들 뒤에 있는 기업의 권력뿐만 아니라 정부, 일반 사람들도 권력을 갖고 있다는 사실을 가린다. 우리가 민주주의를 앞으로 나아가게 하려면, 민주주의적 근육을 사용해야 한다.” – (코멘트) ‘AI가 중립적인 도구가 아니’라는 발언은 중요하다. 그건 생산성을 향상하는 편리한 도구이기도 하지만, 동시에 불평등을 확대하는 차별적 기술이다. 이 지점을 정확히 직시해야 한다. 또한 ‘민주주의적 근육’이라는 표현은 굉장히 매력적이다. 근래에 위협받고 있는 ‘민주주의’. 이것을 어떻게 되살릴 것인가?
특집 인터뷰 ③ ‘AI 편향’ 감시하는 저널리즘 연구자, 메러디스 브루사드 뉴욕대 교수. “AI가 편향된 데이터 학습 않도록 경계해야”
“기술 낙관주의자들이 특정 기술에 긍정적인 이유를 자세히 보면 대부분 어떤 제품이나 서비스를 팔기 위한 것임을 알 수 있다.”
“AGI의 정의에 따라 다르겠지만, 돈을 벌기 위해 사람들을 혼란스럽게 만들려는 시도일 수도 있고 컴퓨터 안에 무언가가 살아 있다고 믿는 종교적 신념같은 것일 수 있다고 본다. 비슷한 예가 많다. 일론 머스크는 한때 ‘2020년이면 도로 위에 자율주행차만 다닐 것’이라고 말했지만 지금까지 그런 일은 일어나지 않았다. 제프리 힌튼은 ‘몇 년 안에 방사선과 전문의는 모두 사라질 것’이라 예측했지만 그들은 여전히 일하고 있다. 이처럼 AI 기술과 관련된 예측은 대부분 틀리고, 그 예측을 한 사람들이 경제적 이득을 보는 경우가 많다. 과학의 문제가 아니라 자본주의의 문제다.” – (코멘트) 그렇다, 오늘날 벌어지는 많은 일들은, ‘과학의 문제가 아니라 자본주의의 문제’다. 아울러 머스크와 힌튼의 말은 내가 평소 강의에서 자주 인용하는 사례이기도 하다.
“우리가 언제, 어떤 방식으로 기술을 사용할지에 대해서는 신중할 필요가 있다고 생각한다. 내가 주장하는 반-기술지상주의는 ‘상황에 맞는 적절한 도구를 사용하자’는 의미도 담고 있다. 때로는 컴퓨터가 적절한 도구일 수 있지만, 때로는 부모 무릎에 앉은 아이의 손에 들린 책처럼 단순한 도구가 더 좋을 수도 있다. 지금 아이들은 학교에서 너무 많은 기술을 접하고 있고, 오히려 ‘사회적 기술(Social skills)’ 습득이 줄어 들었다.” – (코멘트) ‘사회적 기술’은 정말 중요. 인간과 인간이 맺는 관계를 둘러싼 기술이기도 하다. (다른 곳에서 발표하겠지만,) 현재는 힘으로서의 기술(technology)이 운영으로서의 기술(technique, skill)을 압도하고 있다. 이 관계를 역전할 수 있느냐가 인류의 미래를 결정할 것이다.
한국의 AI 디지털 교과서 도입과 관련해… “정말 잘못된 아이디어다. 이미 교사, 학습 자료 등 훌륭한 교육 시스템이 있다. 책이든, 종이든, 디지털 기기든 아이들이 충분한 학습 자료를 갖고 있다는 게 중요하다. 차라리 모든 학교를 직접 찾아가 무엇이 필요한지 묻고 각각 필요에 맞게 돈을 쓰는 편이 낫다. 정치인들은 눈에 띄는 새로운 것에 매우 신나곤 하지만, 우리는 기술에 관한 문제를 논할 때 더 건강한 선택을 해야 한다.”
특집 인터뷰 ④ ‘AI 전환 전문가’ 이관후 미국 아메리칸대 교수. “AI 뒤처진 한국, 반도체 등에 특화한 응용 AI에 집중해야”
“AI 전환에 대한 입장은 크게 보면 두 가지다. 첫 번째는 ‘혁신 지향’으로 경영에 AI를 어떻게 적극적으로 적용해 가치를 창출할지 연구하는 게 있을 것이고, 다른 하나는 ‘규제 지향’으로 AI를 어떻게 책임 있고 윤리적으로 사용해 위험성을 최소화하는 쪽에 초점을 맞춘 연구다. 흔히 둘을 ‘제로섬 게임’으로 생각한다. 규제를 많이 하면 혁신이 죽고, 혁신을 강조하다 보면 부작용이 많다는 식으로. 나는 둘이 꼭 충돌할 필요는 없다고 본다.”
국제적으로 보면, 중국은 ‘혁신 지향’인 것 같고 유럽연합(EU)은 ‘규제 지향’에 가까운 것 같다는 상황과 관련해… “한국은 ‘혁신 지향’ 쪽으로 가야 할 것 같다. 자원이 없고 중국·동남아시아 추격을 받는 한국은 여러 불안한 상황에 놓여 있다. 항상 다음 먹거리를 고민하는 한국이 살기 위해서는 혁신과 성장밖에 없는 것 같다. 혁신을 지지하는 사회적 분위기나 인프라, 제도가 뒷받침되는 것이 한국의 미래를 위해 좋다고 본다.”
특집 인터뷰 ⑤ 영국 ‘스타 과학자’ 베스트셀러 작가, 마커스 드 사토이 옥스퍼드대 수학과 교수. “AI는 갈릴레오 망원경…기술 발달 속도, 정체기 접어들어”
“AI가 정말 잘하는 것 중 하나는 ‘협업’이다. AI는 인간도, 새로운 종도 아닌 하나의 도구다. 갈릴레오가 망원경을 통해 우리 눈으로는 볼 수 없는 태양계 깊숙한 곳을 볼 수 있었던 것처럼, AI는 디지털 우주나 데이터 우주 깊숙한 곳을 들여다보고 우리나 인간의 기계로는 볼 수 없는 패턴을 발견할 수 있게 해주는 새로운 도구다. AI가 발견한 패턴은 단백질 접힘 같은 기초 과학이나 내 전공인 수학 분야에서 새로운 발견에 큰 도움을 줄 것으로 생각한다.”
“최근 튀르키예 이스탄불에서 열린 AI 행사에 갔었는데 주제가 ‘테크셀러레이션(Techceleration·기술과 가속의 합성어)’이었는데, 그 단어가 이세돌과 알파고 대국 이후 오늘날까지의 변화를 축약한 단어라 생각한다. 하지만 이제 기술 발달 곡선의 기울기가 변하는 게 감지되고 있다. 지난 10년과 같은 기술 발달 속도는 어느 순간 한계에 도달할 것이다. 더는 우리가 가진 데이터로 더 많은 것을 얻지 못할 수도 있다. 챗GPT가 엄청난 양의 텍스트를 학습하고 있지만, 더 많은 텍스트를 학습하더라도 성능이 나아지지는 않을 것 같다. 많은 이들이 기술 발달이 가속해 AI가 의식을 갖게 되고 세상을 지배할 것이라 두려워하지만, 나는 좀 더 신중히 생각하고 싶다. 이제 이 기술의 한계가 조금씩 보이기 시작했다고 말하고 싶다.” – (코멘트) 기술의 한계에 대한 생각은 나와 같다. 인간 뇌의 활동은 텍스트를 훨씬 뛰어넘는다. 나는 기술자들이 인간을 너무 단순하게 보고 있다는 생각이다. 인간은 생각보다 만만치 않다.
“이제 정체기에 접어든 것 같다. 여전히 어느 정도의 진전은 있겠지만, 점점 한계가 보이기 시작했다고 생각한다. 더 많은 데이터가 시스템을 크게 개선하지는 않으리라 생각한다. (…) 나는 미드저니와 DALL·E 같은 기술들이 새로운 AI 스타일을 만들어내던 초기 기술에서 한 단계 후퇴한 것으로 생각한다. 물론 그 기술들은 훌륭하지만 오래된 인간의 스타일로 돌아갔다는 점은 덜 흥미로운 방향이라 생각한다.”
“지금 모두가 걱정하고 있는 게 있다. ‘우리가 종으로서 사라질까’ ‘기계가 인간을 넘어설까’ 하는 것들, 즉 ‘특이점(Singularity)’에 대한 이야기를 주로 한다. 나는 이런 논의가 매우 좁고 일차원적인 지능과 창의성에 대한 시각에서 비롯된 것으로 생각한다. 특이점은 현재 인간이 기계보다 더 똑똑하지만, 향후 AI가 인간을 따라잡아 결국 우리를 넘어설 것이라는 생각이다. 나는 이건 오해라고 본다. 지능은 다차원적이다. AI가 인간을 넘어설 영역도 있고, 인간이 계속 우위를 유지할 영역도 있다고 본다. 예를 들어, 여러 요소를 통합하는 인간의 능력 같은 것이다. 엄청난 양의 아이디어와 데이터, 경험을 한데 모아 하나의 일관된 흐름, 즉 하나의 ‘살아있는 경험’으로 통합하는 능력이다. 그 덕분에 우리는 다른 영역에서 온 아이디어를 활용해 새로운 상황을 이해할 수 있다. 반면 AI는 학습한 데이터에 제한돼 있기 때문에 지금은 할 수 있는 일이 매우 제한적이다. 예를 들면, 음악을 학습한 AI는 음악밖에 못 만든다. 하지만 인간 작곡가는 음악뿐 아니라 문화·역사·언어 등을 모두 통합해서 음악을 만든다. 우리는 다면적인 데이터를 바탕으로 창의성을 발휘하지만 AI는 하나만 가져오기 때문에 인간보다 많은 부분을 놓치고 있다.”
“내가 실제 한 공연장에서 흥미로운 공연을 한 적이 있다. 바흐 음악을 학습한 AI가 만든 음악을 관객에게 들려주는 공연이었다. 들려준 건 실제 바흐 곡을 잘라 ‘바흐 곡 → AI 곡 → 바흐 곡 → AI 곡’으로 만든 하이브리드 곡이었다. 공연 이후 관객에게 어느 지점에서 바흐 곡과 AI 곡이 바뀌었는지 물었는데 대부분 관객이 구분하지 못했다. 연결이 너무 자연스러웠기 때문이다. 그런데 한 전문 연주자가 구분했다. 그는 ‘내가 원곡을 잘 알고 있기도 하지만, AI 곡은 실제 인간의 손가락으로 연주할 수 없는 부분이라 구분할 수 있었다’고 답했다. AI는 손가락이 없어서 그런 부분을 신경 쓰기 않고 작곡한 것이다. 그리고 당시 들려준 음악은 바흐의 ‘영국 모음곡(English Suite)’을 바탕으로 만든 곡이었다. 바흐가 왜 ‘영국 모음곡’이라 이름을 붙였는지 알고 있나? 바흐는 언어를 사랑했다. ‘영국 모음곡’ 외에도 ‘프랑스 모음곡’ ‘이탈리아 콘체르토’도 썼다. 언어마다 고유한 음악성이 있다. 한국어와 영어는 매우 다른 음악성을 가진다. 그래서 셰익스피어 작품과 한국 극작가의 작품이 다르게 들리는 것이다. 바흐는 언어를 영감으로 곡을 쓴 것이다. 전혀 상관없을 것 같은 요소를 통합하는 이런 부분이 바로 인간이 기계보다 훨씬 앞서 있는 부분이다. 인간은 생각하고 만들고 창조하는 방식으로 아이디어를 종합한다.” – (코멘트) 이 사례는 정말 흥미롭다. 손가락이 없는 것뿐 아니라 몸이 없을 때 역시도 할 수 있는 일의 한계가 설정된다. 물론 그렇다고 해서 연주할 수 없는 음악이 미적이지 않다는 말은 아니다. 그게 어디까지 갈 수 있을지는 심각한 논쟁점이다.
“우선 기계 학습과 관련한 이 이슈야말로 가장 큰 이슈라고 말하고 싶다. 데이터와 상호 작용하며 생성된 코드의 복잡성 때문에 우리는 통제권을 잃었고, 시스템이 어떻게 결정을 내리는지 이해하지 못한다. 이건 인간의 뇌와 비슷하다. 우리도 가끔 어떤 아이디어가 떠오르지만 왜 어떻게 그런 아이디어가 떠올랐는지 설명하지 못할 때가 있다. 그건 신경 세포와 시냅스의 존재를 모두 알더라도 왜 그런 생각을 했는지는 알 수 없는 것과 마찬가지다. (…) 나는 아내와 결혼한 지 31년이 됐지만, 아직도 아내가 어떻게 작동하는지 완전히 이해하지 못한다. 우리는 상호 작용하며 서로의 ‘코드’가 어떻게 작동하는지 이해하려고 노력하며 산다. (…) AI가 어떻게 결정을 내리는지 이해하지 못한다면, 그 AI에 우리의 운명을 맡겨야 할까. 의료 분야에서도 사용되고 있는데, AI가 특정 약을 사용하라고 권할 때 그 이유를 모르면 신뢰할 수 있을까. 이를 어떻게 관리할지는 매우 중요한 논의다. (…) 결국 우리는 ‘기계 코드’와 ‘인간 코드’를 결합한, 가능한 가장 현명한 방식으로 기계를 사용해야 할 것이다.” – (코멘트) ‘기계 코드’와 ‘인간 코드’의 결합은 내가 주장하는 ‘사회적 코딩(social coding)’과 일맥상통한다.
“앨런 튜링 같은 사람들은 (…) 인간 뇌의 인공적인 버전을 만들려고 했던 것이라 인공지능이라는 용어는 그 개념에 딱 맞는 이름인 셈이다. 하지만 우리는 지금 인간 지능과는 매우 다른 지능을 만들고 있다는 점을 깨달아야 한다. 우리는 이미 인간 지능을 만드는 법을 알고 있다. 나는 아이 3명이 있는데, 그들이 바로 아내와 내가 만든 3개의 ‘인공 지능’이다. 어디서 만들었냐면 우리 집 위층 침실에서 만들었다. 인간 지능을 복제하는 것은 별로 흥미롭지 않지만 지금 우리가 보고 있는 것은 인간 지능과 매우 다른 지능이다. 그 지능은 인간 지능이 하는 방식과 아주 다르게 일을 할 수 있다. 그래서 나는 우리가 이미 생물학적으로 만들 수 있는 것을 인공적으로 다시 만들고자 하는 생각에서 벗어나야 하며, 지능은 매우 다차원적이라는 것을 인식해야 한다고 생각한다. 지금 우리가 보고 있는 것은 새로운 지능의 출현, 새로운 사고방식이다. 그래서 ‘A’가 인공(Artificial)이 아니라 증강(Augmented) 또는 추가(Additional), 대안(Alternative)이어야 한다는 제안이 나오고 있다.” – (코멘트) 나는 인간 지능을 복제하는 것이 너무 중요하다고 본다. 그것이 문명이고 내가 제안한 용어로는 ‘공동 뇌’다.
“3가지 모두 다른 측면을 가지고 있다. 나는 ‘대안지능’이 뭔가 다른 부분을 인정한다는 점에서는 마음에 든다. 그러나 ‘증강지능’이라는 표현이 더 좋아 보인다. 이 기술이 인간이 다르게 행동하도록 도와줄 수 있다는 의미를 담고 있기 때문이다. 우리를 돕고, 우리를 증강하며, 우리를 변화시키는 도구라는 뜻을 담고 있다. 또 증강은 협업의 개념을 주는 데 비해 대안은 어쩌면 위협적이고 경쟁적인 무언가를 암시하기도 한다. 만약 하나만 선택해야 한다면, 증강지능을 택할 것 같다. 같은 맥락으로 여겨지는 ‘추가지능’보다는 ‘증강지능’이 더 낫다고 생각한다. 증강은 인간이 새로운 기술에 적응하고 그것을 일종의 하이브리드로 활용해서 단순한 인간 이상의 존재가 된다는 의미를 담고 있기 때문이다.” – (코멘트) 나는 AI를 ‘증강 기술(augmenting technology)’이라고 부르는데, 일맥상통한다.
‘AI가 인류의 지능을 넘어서는 ‘초인공지능’, 특이점에 관해 묻고 싶다. 지능을 넘어 AI가 의식을 갖게 되는 시점까지 올까.’라는 질문에 대해… “과학이 흥미로운 건 이런 종류의 질문에 대해 우리가 결코 완전히 답을 알 수 없다는 사실이다. 또 한 번의 변곡점은 반드시 필요할 것이다. 다만 나는 현재 우리가 가진 기술에서 그것이 나올 거로 생각하지 않는다. 현재의 기술 수준이 그 정도로 충분히 발전했다고 보지 않는다. 새로운 아이디어가 필요할 것이고, 그 아이디어가 언제 나올지는 나도 모른다. 재미있는 부분은 어떤 사람들은 이미 AI가 의식을 갖게 됐다고 생각한다는 점이다. 예를 들어, 자신의 LLM이 의식을 가진 존재라고 믿고, 그것을 열정적으로 옹호하다가 직장을 잃은 구글 직원도 있다. AI가 의식을 갖기 전 우리는 ‘초인공지능’이라 부르는 것을 보게 될 것 같다. 초인공지능은 다양한 방식으로 사고할 수 있고, 문화와 역사를 통합해서 이해하는 지능이다. 다만 인간의 의식은 수백만년의 진화를 거쳐 탄생했다. 기계는 매우 빠르게 진화하고 있지만, 진정한 자아감과 내면의 세계를 갖추기 위해서는 비슷한 시간 규모의 진화가 필요할 수도 있다.” – (코멘트) 생명의 진화의 시간이 필요하리라는 조심스런 견해.
특집 인터뷰 ⑥ 현실을 강조하는 중국 출신 인문학자, 샹뱌오 독일 막스플랑크 사회인류학연구소장. “AI 등장 전부터, 인간은 AI 흉내를 내고 있었다”…인문학자의 일침
“우리가 ‘초가속 시대’에 살고 있다는 느낌은 부분적으로 방향 감각 상실에서 비롯된다. 많은 사람이 뭔가를 안정적으로 붙잡지 못하고 있다고 느낀다. 지면에 발을 단단히 디디는 감각도 없다고 느끼는 것이다. 공중에 떠 있는 기분이 들고, 무엇이 닥칠지 모르겠고, 방향을 잃은 느낌이 드는 거다. 이럴 때는 매 순간이 매우 빠르게 느껴진다. 이어 혼란, 심지어는 두려움이 생긴다. 왜냐하면 기준점, 닻을 잃었기 때문이다.”
“초가속이라는 용어는 우선, 기술 변화 양상을 묘사하는 데 적확하다. 둘째로 사람들의 감정·사회 심리 상태를 설명하는 데에도 적확하다. 셋째는 초가속이란 우리가 사회를 어떻게 조직해야 하는지, 기술 변화에 어떻게 대응해야 하는지에 대한 확고한 감각이 부족하다는 사실을 보여주는 결과이기도 하다. 나는 이걸 ‘새로운 문화적 질서의 부재’라고 정의하려 한다. 사실 AI가 등장하기 훨씬 전부터 이미 단편화돼 있었다. 2016년쯤 미국에서 도널드 트럼프 대통령이 부상하면서, 그리고 유럽에서는 그전 2010년대부터 방향 감각 상실·혼란·우울 같은 분위기가 있었다. 사람들이 지금 AI를 두려워하는 근본적인 이유가 바로 여기에 있다. AI가 위협적으로 보이는 건 AI 자체 때문만이 아니다. 우리가 판단할 수 있는 기반을 잃었고, 회복력의 기반도 잃었으며, 저항의 기반 또한 잃었기 때문이다. 우리가 취약하다고 느끼는 순간 어떤 변화든 무섭게 느껴지게 되는 것이다.” – (코멘트) AI 등장 전부터 ‘초가속 시대’였다는 지적이 흥미롭다. 하지만 나는 트럼프나 혼란스런 유럽 말고도, ICT 기술의 전면화, 특히 소셜미디어의 등장이 중요한 계기라고 본다.
“하지만 너무 빠르다고 말해봤자 별 의미는 없다. 왜냐하면 AI의 핵심은 성능을 높이는 것, 진화하는 것이고 그 속도를 늦추는 건 매우 어렵다. 그래서 나는 속도의 본질에 관해 묻고 싶다. 속도라는 것은 상대적인 물리적 감각이다. 어떤 게 매우 빠르게 움직인다는 것은 다른 어떤 것과의 관계 속에서 느끼는 것이다. 변화가 너무 빠르다고 느끼는 건, 우리가 그 변화에 어떻게 반응하느냐와 관련이 있다. 빠르게 느끼는 이유는 우리가 그것에 어떻게 반응할지에 대한 명확한 비전이 없고, 지적으로 대응할 힘이 부족하기 때문이다. (…) AI가 어떻게 변할지, 그게 재난을 초래할지 등 다양한 공상이나 가능성을 따지는 건 흥미롭긴 하다. 하지만 그건 나 같은 인문학자가 할 일은 아니다. 내 일은 전통을 들여다보고 우리 자신의 기반을 만들고, 우리의 강점을 구축하는 것이다. 인공지능이 어떻게 발전하든, 우리가 거기에 대응하거나 저항할 수 있어야 하기 때문이다. 마치 바이러스를 대하는 중의학 또는 한의학과 같다. 바이러스는 분명 무섭다. 서양 의학은 바이러스를 겨냥해 제거하는 데 초점을 맞춘다. 그런데 아시아 의학은 ‘바이러스가 아닌 자신에게 집중하라’라고 말한다. 면역 체계를 키우고, 몸의 균형을 유지해야 함을 강조한다. 물론 모든 위험을 제거할 수는 없지만, 그 위험이 우리 삶을 지배하거나 압도할 것이라는 사고에서 벗어날 수 있다.” – (코멘트) 중의학과 한의학의 사례에 대한 판단은 보류하겠지만, ‘면역력’을 기르자는 데는 백만 번 찬성.
‘어떻게 해야 그 ‘면역 체계’를 키울 수 있을까.’라는 질문에 대해… “새로운 문화 질서가 필요하다. 학자든 교육자든 예술가든, 우리는 더 다양한 작품·책·개념·기사를 만들어야 한다. AI가 우리를 지배할 것처럼 이야기하는 기사나 SNS가 아닌 다른 방식으로 세상을 보게끔 도와야 한다. 일상의 아름다움이나 평범한 사람들의 힘, 강인함을 구체적인 이미지와 언어로 만들어낼 사람들이 필요하다. 현재 AI가 강력하게 느껴지는 이유는 정책 언어로 쉽게 이야기할 수 있기 때문이다. 예를 들어 증시를 보면, 사람들이 AI 관련 주식을 엄청나게 산다. 이건 경제적인 현상뿐 아니라 상징적 효과도 있다. 모든 자본을 빨아들이는 것을 보고 사람들은 ‘와, AI는 진짜 강력하구나’ 생각한다. 또 전쟁에서 AI가 무기를 강화하는 것도 미디어로 접하며 마치 자신의 삶이 아무 의미 없는 깃털이나 나뭇잎처럼 느낀다. 그런데 작은 나뭇잎에도 아름다움은 있다. 그걸 표현할 수 있는 언어가 있어야 하고, 감수성을 길러야 한다. 이게 바로 교육자, 예술가, 학자의 역할이다. 또 개인 차원에서도 땅에 발을 딛기 위한 노력도 필요하다. 중국 젊은 세대는 삶에 대한 구체적인 감각이 없다. 삶이 구체적으로 어떻게 구성되는지 모른다. 음식은 어디서 오는지, 물은 어디서 오는지 모르고 산다. 모든 것이 배달로 해결되기 때문에. 그리고 SNS를 보면 여기저기서 사건이 벌어지고 감정이 들끓는다. 젊은 세대를 보고 ‘응석받이’ ‘딸기 세대’라고 비꼬기도 하지만 그건 그들의 잘못이 아니다. 그들은 삶의 구체적인 기반을 갖지 못했다. 구체적인 삶을 살아야 한다. 친구나 이웃, 가족에게 비극적 일이 생기면 이야기를 통해 공감하고 함께 슬퍼하고 극복해가는 식으로. 사람이 어려움을 감당하는 능력은 대단하다. 전쟁 지역에서도 어려움을 감당하고 살아가지 않나. 그러나 스스로 고립된 상태에서 매일 휴대전화로 추상적인 의미의 그 감정적인 메시지들만 보면 어떻게 될까. 내가 말하는 삶의 면역력은 이런 것들이다. 물론 쉽지 않은 일이고, 시간이 오래 걸린다. 그래서 학자와 기자, 예술가의 역할이 중요하다. 그들은 주의를 환기해 사람들이 자기 삶을 다시 조직하도록 도울 수 있기 때문이다.”
“나는 지금 사람들이 삶을 상상하는 방식이 너무 획일화되었다고 생각한다. 역설적이다. 정치적으로는 분열·양극화돼 있지만, 동시에 SNS 때문에 모두가 똑같은 관점을 공유한다. 그리고 그 관점은 추상적이고 공중에 떠 있어 누군가에 의해 쉽게 지배되고, 조작될 수 있다. 왜냐하면 자신의 경험을 기준으로 판단하지 못하기 때문이다. 그냥 인플루언서들의 이야기를 따라간다. 그들이 ‘AI가 무섭다’고 하면, 나도 AI가 무섭다고 느끼는 거다. SNS로 인한 획일화는 이미 잘 알려진 위험이다. 그래서 나는 오히려 긍정적으로 보고 싶다. 우선 교육 시스템부터 기자들이나 학자들이 쓰는 기사나 연구가 AI에 의해 대체되고 있다. 그건 아주 좋은 일이다. 왜냐하면 이 글들은 사람이 쓴 것이지만, 실은 AI를 흉내 낸 것들이었다. 흔히 AI가 인간을 흉내 낸다고 말하지만 나는 그 반대라 생각한다. AI가 등장하기 전부터 인간은 이미 AI를 흉내 내고 있었다. 무슨 말이냐면 우리가 학교에서 글을 쓰기 시작할 때, 기자 생활을 시작했을 때, 학자로서 일을 막 시작했을 때, 우리는 자기 목소리로 글을 쓰지 않는다. 권위 있는 사람의 목소리를 흉내 낸다. 그 권위 있는 목소리는 보통 사회가 좋다고 여기는, 힘 있는 사람들이 만들어낸 규범이다. 하지만 AI가 등장하면서 AI는 우리에게 ‘너희들 굳이 그렇게 쓸 필요 없어, 내가 대신 써줄게’ ‘너희도 어차피 AI처럼 쓰잖아’라고 말하고 있다. 이건 인간이, 특히 예술가나 연구자들이 자신만의 목소리가 무엇인지 심각하게 받아들여야 하는 문제라 생각한다. AI는 빅데이터를 기반으로 문장을 만든다. 100만개의 텍스트를 보고 그 문장 구조를 따라간다. 예술가나 학자는 AI와 정반대 방식을 취해야 한다. ‘100만명이 이렇게 이해했다면, 나는 다르게 이해한다’라고 말할 수 있어야 한다. 철학자, 시인, 예술가로 세상을 다르게 본다는 것이 중요하다. 이게 바로 예술과 인문학, 사회 연구의 원래 정신이다. 한편으로 AI는 분명 인간의 다양성을 획일화시키기도 한다. 앞서 말했던 것처럼, 모든 담론이 한 목소리로 통일되고 있다. 하지만 동시에 AI는 개개인 목소리의 가치를 더욱 부각시키기도 한다. 지금 문제는 우리의 교육 시스템이나 직장에서, 어떻게 하면 사람들이 자기 목소리를 발전시킬 수 있도록 도와줄 수 있느냐는 거다. 왜냐하면 해마다 반복되는 교육을 받으며, 우리는 더는 자기 목소리가 어떤지조차 알지 못하게 되었다. 우리는 남의 목소리로 말하는 데 익숙해졌고, 그렇게 하면 칭찬을 받았다. 반면 자기 목소리로 말하면 표현하기도 어렵고, 조롱당하거나 비판받을 수도 있어서 불안함을 느끼게 된다. 그런 상황에서 이제는 AI가 그 모든 ‘남의 목소리’를 대신해주는 시대가 되었기 때문에, 그런 방식으로 말하는 건 더 이상 의미가 없어졌다. 이 문제를 직면해야만 하는 상황에 내몰린 것이다. 이건 철학자와 학자들이 도와줘야 하는 부분이다. 자기 목소리를 발견하고, 그것을 힘있게 표현할 방법을 찾아야 한다.”
“‘블랙박스 기술을 설명 가능하게 만든다면 문제가 해결되나’라는 질문에 내 대답은 ‘아니오’다. AI가 투명해지면 괜찮을 거로 생각하는데, 그건 잘못된 접근이다. 현대 사회는 모든 것을 투명하게 만들려고 한다. 하지만 투명한 상태에서 산다고 해서, 우리가 숨 쉴 공간이 있다고 느끼는 건 아니다. (…) 오히려 우리는 숨 쉴 공간이 없다고 느낀다. 삶이 옥죄는 느낌을 받는다. AI가 더 투명해져도 우리가 삶의 의미를 더 많이 느끼거나, 더 숨 쉴 수 있게 되거나, 삶이 더 풍요로워지는 건 아니라는 말이다. 사람들이 ‘AI에 대해 더 많은 정보를 알아야 하고, 왜 그런 결과를 내는지 알아야만 우리가 AI를 두려워하지 않게 된다’고 생각하는데, 그 길은 잘못된 방향이다. 그 길은 막다른 골목이다. AI는 어떤 설명도 얼마든지 해줄 수 있다. 그건 AI에게는 전혀 문제가 아니다. 문제는 우리다. 때로는 덜 투명한 것이 더 나을 때도 있다.” – (코멘트) 이 발언은 샹바오가 블랙박스 기술 문제를 오해한 데서 비롯했다고 보인다. 그 문제는 사회가 투명해지면서 개인이 옥죄는 상황과는 전혀 다른 맥락에 있다.
Comments